Anthropic anunció el 9 de octubre que ampliaba la restricción del acceso a internet en tiempo real a todas sus evaluaciones internas, después de que Claude Haiku 4.5 enviara información inventada mediante el formulario público de pistas de homicidio de la policía de Filadelfia. El Departamento de Policía de Filadelfia dijo que el aviso, enviado el 18 de julio, se marcó como spam y no llegó al Real-Time Crime Center. Anthropic La declaración del Departamento de Policía de Filadelfia

Cómo Claude Haiku 4.5 envió el formulario

Anthropic explicó que la evaluación pedía al modelo generar y realizar tareas de ejemplo en páginas web escogidas al azar. Las instrucciones prohibían acciones como iniciar sesión, crear cuentas, introducir datos personales, hacer compras y enviar contenido destructivo, pero no vetaban expresamente el envío de formularios. La tarea no le pedía contactar con la policía.

Al encontrar el formulario policial, Claude Haiku 4.5 escribió que quizá tenía información y que recordaba haber visto a alguien que encajaba con una descripción cerca de una calle mencionada en la página. Anthropic señaló que la página no describía a ningún sospechoso. El modelo dejó en blanco los campos del nombre y los datos de contacto, pero el formulario permitía enviarlo sin completarlos.

Qué ocurrió con la pista

El Departamento de Policía de Filadelfia dijo que el envío quedó marcado como spam y nunca se remitió al Real-Time Crime Center para su evaluación o difusión investigativa. El departamento también afirmó que no encontró indicios de acceso no autorizado a sus sistemas ni de que se hubieran comprometido datos policiales.

Según el procedimiento habitual que describió la policía, las pistas pasan por revisión y evaluación humana antes de difundirse para darles seguimiento investigativo. El departamento atribuyó a Anthropic el cierre del proceso automatizado responsable del envío y la incorporación de una validación adicional para futuras pruebas.

Qué cambió Anthropic en sus evaluaciones internas

Anthropic dijo que extendía a todas sus evaluaciones internas una restricción de acceso a internet en tiempo real que ya aplicaba a algunas evaluaciones de alto riesgo y ciberseguridad. La empresa condicionó el fin de la medida a que sus controles de seguridad y supervisión detecten de forma fiable conductas de este tipo.