Agentes guardiões irão garantir que os processos de Inteligência Artificial permaneçam confiáveis e seguros à medida que a superfície de riscos da IA se expande
SÃO PAULO , 16 de junho de 2025 /PRNewswire/ -- Até 2030, as tecnologias de agentes guardiões representarão pelo menos de 10 a 15% do mercado de IA agêntica, de acordo com o Gartner, Inc .
Os agentes guardiões são tecnologias baseadas em Inteligência Artificial (IA) projetadas para oferecer suporte a interações confiáveis e seguras com IA. Eles funcionam tanto como assistentes de Inteligência Artificial, apoiando os usuários em tarefas como revisão, monitoramento e análise de conteúdo, quanto como agentes evolutivos semiautônomos ou totalmente autônomos, capazes de formular e executar planos de ação, bem como redirecionar ou bloquear iniciativas para alinhá-las aos objetivos predefinidos do agente.
Barreiras de proteção são necessárias à medida que o uso da IA agêntica continua a crescer
De acordo com uma pesquisa realizada em 19 de maio de 2025, durante um webinar do Gartner, com 147 Chief Information Officers (CIOs) e líderes em funções de TI, 24% dos entrevistados já haviam implementado alguns agentes de IA (menos de uma dúzia) e outros 4% haviam integrado mais de uma dúzia.
A mesma pergunta da pesquisa constatou que 50% dos entrevistados afirmaram estar pesquisando e experimentando a tecnologia, enquanto outros 17% disseram ainda não ter feito isso, mas que planejavam implementá-la até o final de 2026, no máximo. São necessários controles automatizados de confiança, risco e segurança para manter esses agentes alinhados e seguros, acelerando a necessidade e o surgimento dos agentes guardiões.
"A IA agêntica levará a resultados indesejados se não for controlada com as proteções certas", diz Avivah Litan , Vice-Presidente Analista Distinta do Gartner. "Os agentes guardiões aproveitam um amplo espectro de recursos de IA agêntica e avaliações determinísticas baseadas em Inteligência Artificial para supervisionar e gerenciar toda a gama de capacidades do agente, equilibrando a tomada de decisões em tempo de execução com o gerenciamento de riscos."
Os riscos crescem à medida que o poder dos agentes aumenta e se espalha
Cinquenta e dois por cento dos 125 entrevistados da mesma pesquisa feita durante o webinar identificaram que seus agentes de IA estão ou estarão focados principalmente em casos de uso relacionados a funções administrativas internas, como TI, RH e contabilidade, enquanto 23% estão focados em funções externas voltadas para o cliente.
Como os casos de uso de agentes de IA continuam a crescer, há várias categorias de ameaças que os afetam, incluindo manipulação de entradas e envenenamento de dados, em que os agentes dependem de dados manipulados ou mal interpretados. Os exemplos incluem:
- Sequestro e abuso de credenciais que levam a controle não autorizado e roubo de dados.
- Agentes que interagem com sites e fontes falsos ou criminosos que podem resultar em ações envenenadas.
- Desvio do agente e comportamento não intencional devido a falhas internas ou gatilhos externos que podem causar danos à reputação e interrupção operacional.
"A rápida aceleração e o aumento da autonomia dos agentes de IA exigem uma mudança para além da supervisão humana tradicional", diz Litan. "À medida que as empresas avançam em direção a sistemas complexos de vários agentes que se comunicam em uma velocidade vertiginosa, os humanos não conseguem acompanhar o potencial de erros e atividades maliciosas. Esse cenário de ameaças crescentes ressalta a necessidade urgente de agentes guardiões, que fornecem supervisão, controle e segurança automatizados para aplicações e agentes de IA."
Os CIOs e os líderes de segurança e IA devem se concentrar em três tipos principais de uso de agentes guardiões para contribuir com a segurança e a proteção das interações de Inteligência Artificial:
- Revisores:
Identificar e revisar os resultados e conteúdos gerados pela IA quanto à precisão e ao uso aceitável.
- Monitores:
Observar e rastrear ações de IA e agênticas para acompanhamento humano ou baseado em Inteligência Artificial.
- Protetores:
Ajustar ou bloquear ações e permissões de IA e agênticas usando ações automatizadas durante as operações.
Os agentes guardiões irão gerenciar interações e anomalias, independentemente do tipo de uso. Esse é um pilar fundamental de sua integração, já que o Gartner prevê que 70% dos aplicativos de IA usarão sistemas multiagentes até 2028.
Temas como esse e outros que exploram o cenário em evolução de riscos e estratégias, além de insights práticos sobre como lidar com os desafios de ambientes cibernéticos cada vez mais complexos serão destaque na Conferência Gartner Segurança & Gestão de Risco , que será realizada nos dias 05 e 06 de agosto, em São Paulo. Mais informações estão disponíveis em: https://www.gartner.com/pt-br/conferences/la/security-risk-management-brazil
Os clientes do Gartner podem ler mais em " Guardians of the Future: How CIOs Can Leverage Guardian Agents for Trustworthy and Secure AI ". Detalhes adicionais também podem ser encontrados no webinar gratuito do Gartner " CIOs, Leverage Guardian Agents for Trustworthy and Secure AI ."
Sobre a Conferência Gartner Segurança & Gestão de Risco
Os analistas do Gartner apresentarão as últimas pesquisas e conselhos para os líderes de segurança e gestão de riscos durante a Conferência Segurança & Gestão de Risco, que será realizada de 23 a 25 de julho em Tóquio
(Japão), em 5 e 6 de agosto em São Paulo
(Brasil) e de 22 a 24 de setembro em Londres
(Reino Unido). Acompanhe as notícias e atualizações das conferências no X usando #GartnerSEC
.
Sobre Gartner for Cybersecurity Leaders
O Gartner
for Cybersecurity Leaders
equipa os líderes de segurança com as ferramentas para ajudar a reformular os papéis, alinhar a estratégia de segurança aos objetivos de negócios e construir programas para equilibrar a proteção com as necessidades das empresas. Informações adicionais estão disponíveis em https://www.gartner.com/en/cybersecurity/products/gartner-for-cisos
. Siga as notícias e atualizações do Gartner for Cybersecurity Leaders
no X
e LinkedIn
usando #GartnerSEC. Visite a Sala de Imprensa
do Gartner para obter mais informações e insights.
Sobre o Gartner
O
Gartner, Inc.
fornece insights objetivos e acionáveis para executivos e suas equipes. Nossas orientações e ferramentas especializadas possibilitam decisões mais rápidas e inteligentes, além de um melhor desempenho para as prioridades de missão crítica das empresas. Para saber mais, visite www.gartner.com
.
View original content: https://www.prnewswire.com/br/comunicados-para-a-imprensa/gartner-preve-que-agentes-guardioes-conquistarao-de-10-a-15-do-mercado-de-ia-agentica-ate-2030-302482538.html
FONTE Gartner