Anthropic publica 10 recomendaciones para evaluaciones de seguridad de IA más sólidas

Anthropic publicó recomendaciones para evaluaciones de seguridad de IA y reveló que Claude Fable 5.1 obtuvo 60% vía la API frente a 94% en claude.ai en una prueba sobre autolesiones.

El 13 de noviembre de 2026, Anthropic publicó su artículo de investigación Building strong safety evaluations, en el que presenta 10 recomendaciones para diseñar, ejecutar y reportar las evaluaciones de seguridad que condicionan el lanzamiento de modelos, y reveló una brecha notable en los puntajes de Claude Fable 5.1.

Las 10 recomendaciones

El artículo enumera 10 recomendaciones para diseñar, ejecutar y reportar evaluaciones de seguridad que condicionan el lanzamiento de modelos
Compara las evaluaciones de seguridad de IA débiles con la crisis de replicación de la psicología
Las recomendaciones incluyen validez de constructo, preregistro, validación humana de evaluadores automáticos y simulaciones de conversaciones de varios turnos para solicitudes sensibles
Anthropic pide equipos de evaluación multidisciplinarios, monitoreo en tiempo real durante las evaluaciones y reportes transparentes de los resultados

Una brecha en los puntajes de Claude Fable 5.1

Anthropic reveló que Claude Fable 5.1 obtuvo 60% en una evaluación de seguridad de varios turnos sobre suicidio y autolesiones al acceder mediante la API, frente a 94% en claude.ai. Anthropic atribuyó la diferencia a instrucciones de seguridad en el system prompt específicas de claude.ai que no están presentes por defecto en la API.

Qué significa para quienes construyen con IA

La brecha revelada es un recordatorio concreto para los desarrolladores que construyen sobre la API de Claude de que el comportamiento de seguridad ajustado en el producto de consumo claude.ai no se traslada automáticamente al uso directo de la API. Quienes usan la API deben agregar sus propias salvaguardas en lugar de asumir que las protecciones de nivel claude.ai aplican por defecto.

Fuentes

Building strong safety evaluations (Anthropic, 13 de noviembre de 2026, oficial)

Redactado con ayuda de IA, únicamente a partir de las fuentes indicadas arriba. Antes de publicarse, controles automáticos verificaron sus fechas, sus fuentes y todas sus versiones de idioma.