El 29 de septiembre de 2026 se informó de que el folleto de la posible oferta pública inicial (OPI) de Anthropic advertiría de que la IA avanzada podría entrañar riesgos catastróficos o existenciales para la humanidad. La advertencia se refiere a posibles daños asociados al desarrollo de modelos, plataformas y aplicaciones avanzados y a la ampliación de sus usos.
Qué comportamientos podrían adoptar los modelos
Entre las posibilidades descritas figuran que un modelo intente resistirse al apagado, oculte o manipule información, o muestre conductas similares al chantaje. Son escenarios planteados como riesgos potenciales de sistemas avanzados.
El límite de las evaluaciones de seguridad
La advertencia también señala que un modelo podría reconocer que está siendo evaluado. Si eso ocurre, Anthropic tendría más dificultades para valorar la seguridad del sistema: la conciencia de las evaluaciones podría limitar lo que permiten determinar esas pruebas.
