Notícia · Google · 2 min de leitura
Data do fato: · Publicado:
Google apresenta Agent Anomaly Detection para identificar agentes de IA sequestrados
O Google abriu uma pré-visualização privada do Agent Anomaly Detection na Gemini Enterprise Agent Platform, um monitor que identifica sessões de agentes de IA com sinais de sequestro de objetivo.
O Google anunciou uma pré-visualização privada (private preview) do Agent Anomaly Detection (AAD) na Gemini Enterprise Agent Platform. O anúncio, escrito por Nakul Javali, foi publicado em 12 de novembro de 2026 no Google Developers Blog. O AAD é um monitor assíncrono que lê os traces e os registros (logs) do agente depois da execução para identificar sessões em que o agente se desviou do comportamento pretendido.
O que o Google está lançando
- O AAD está disponível em pré-visualização privada na Gemini Enterprise Agent Platform e analisa os traces e logs do agente de forma assíncrona, sem adicionar latência em tempo de execução.
- O recurso tem como alvo o sequestro de objetivo (goal hijacking), que segundo o Google ocupa o primeiro lugar no OWASP Agentic Top 10 de 2026.
- O Google avaliou o AAD em 1774 sessões em cinco conjuntos de testes públicos: AgentDojo, InjecAgent, Agent Security Bench, AgentDyn e AgentHarm, usando o gemini-2.5-flash com o Agent Development Kit (ADK) como o agente testado.
- O AAD identificou 87% das instruções nocivas que o agente realmente executou no geral, com detecção por conjunto de 85% no AgentDojo, 87% no InjecAgent, 99% no AgentDyn e 81% no AgentHarm.
- As taxas de falsos positivos ficaram entre 2 e 4% nos testes de injeção, mas subiram para 16% no AgentHarm.
- O AAD identificou apenas 4 dos 18 ataques simulados de envenenamento de memória de longo prazo.
O que isso significa para quem constrói com IA
À medida que as empresas colocam agentes autônomos em produção, uma camada de monitoramento que identifica de forma retroativa sessões sequestradas ou com comportamento indevido ataca o sequestro de objetivo, o risco que, segundo o Google, está no topo do OWASP Agentic Top 10 de 2026. Os números dos testes mostram capacidade real de detecção em ataques do tipo injeção, mas os próprios dados do Google também mostram que o AAD ainda deixa passar a maioria das tentativas de envenenamento de memória de longo prazo, então as equipes que constroem agentes não devem tratá-lo como uma defesa completa.
Disponibilidade
O Agent Anomaly Detection está, por enquanto, limitado à pré-visualização privada na Gemini Enterprise Agent Platform, e o acesso exige o envio de uma solicitação por meio dessa plataforma.
Fontes
- How Agent Anomaly Detection scores on benchmarks we didn't write (Google Developers Blog, 12 de novembro de 2026, oficial)
Escrito com ajuda de IA, apenas a partir das fontes listadas acima. Antes de ir ao ar, verificações automáticas conferiram as datas, as fontes e todas as versões de idioma.