Anthropic publica 10 recomendações para avaliações de segurança de IA mais sólidas

A Anthropic publicou recomendações para avaliações de segurança de IA e revelou que o Claude Fable 5.1 obteve 60% via API contra 94% no claude.ai em um teste sobre autolesão.

Em 13 de novembro de 2026, a Anthropic publicou seu artigo de pesquisa Building strong safety evaluations, apresentando 10 recomendações para projetar, executar e relatar as avaliações de segurança que condicionam o lançamento de modelos, além de revelar uma diferença notável nas pontuações do Claude Fable 5.1.

As 10 recomendações

O artigo lista 10 recomendações para projetar, executar e relatar avaliações de segurança que condicionam o lançamento de modelos
A Anthropic compara avaliações de segurança de IA fracas com a crise de replicação da psicologia
As recomendações incluem validade de constructo, pré-registro, validação humana de avaliadores automáticos e simulações de conversas de múltiplos turnos para pedidos sensíveis
A Anthropic pede equipes de avaliação multidisciplinares, monitoramento em tempo real durante as avaliações e relatórios transparentes dos resultados

Uma diferença nas pontuações do Claude Fable 5.1

A Anthropic revelou que o Claude Fable 5.1 obteve 60% em uma avaliação de segurança de múltiplos turnos sobre suicídio e autolesão ao ser acessado via API, contra 94% no claude.ai. A Anthropic atribuiu a diferença a instruções de segurança no prompt de sistema específicas do claude.ai que não estão presentes por padrão na API.

O que isso significa para quem constrói com IA

A diferença revelada é um lembrete concreto para desenvolvedores que constroem sobre a API da Claude de que o comportamento de segurança ajustado no produto de consumo claude.ai não é transferido automaticamente para o uso direto da API. Quem usa a API precisa adicionar suas próprias salvaguardas em vez de assumir que as proteções no nível do claude.ai se aplicam por padrão.

Fontes

Building strong safety evaluations (Anthropic, 13 de novembro de 2026, oficial)

Escrito com ajuda de IA, apenas a partir das fontes listadas acima. Antes de ir ao ar, verificações automáticas conferiram as datas, as fontes e todas as versões de idioma.