AFP informó el 17 de octubre de 2026 de que Anthropic había presentado a legisladores estadounidenses una propuesta que permitiría al Gobierno federal bloquear un modelo de IA con autorización judicial si existiera un riesgo inminente de más de 50 personas muertas o con lesiones graves, o de pérdidas superiores a 1.000 millones de dólares (información publicada por El Periódico). El documento de Anthropic publicado en junio de 2026 plantea otro marco: define qué desarrolladores quedarían sujetos a obligaciones de seguridad y describe varias opciones de control judicial.
Qué desarrolladores abarcaría el marco de junio
El Advanced AI Framework de Anthropic propone que las obligaciones se apliquen a desarrolladores que cumplan dos condiciones: entrenar modelos por encima de 10²⁵ FLOPs y, además, superar uno de estos dos umbrales empresariales: 500 millones de dólares de ingresos anuales derivados de la IA o 1.000 millones de dólares de gasto anual en I+D de IA. El criterio de ingresos y el de gasto son alternativas entre sí; el umbral de entrenamiento se suma a cualquiera de ellos. El marco de Anthropic, fechado en junio de 2026, es una propuesta de política pública.
El documento organiza su evaluación en torno a cuatro riesgos: armas biológicas, operaciones cibernéticas ofensivas, pérdida de control y la investigación y desarrollo automatizados que podrían amplificar los otros riesgos.
Informes, incidentes y evaluación independiente
Para los desarrolladores cubiertos, Anthropic propone publicar un marco de seguridad, resúmenes de las evaluaciones y, en determinadas circunstancias, fichas de los sistemas. También plantea informes públicos de riesgos al menos cada seis meses y comunicar los incidentes críticos definidos en el marco dentro de los 15 días posteriores a su descubrimiento o a conocer hechos que permitan creer razonablemente que ocurrieron.
El documento recomienda que cada desarrollador cubierto recurra periódicamente a, al menos, un evaluador externo cualificado e independiente, dentro de los seis meses siguientes a la entrada en vigor de la regulación. El evaluador tendría acceso a los modelos y a la información pertinente sobre riesgos, y publicaría una revisión. La propuesta de supervisión externa también había sido tema de una cobertura anterior de NeoTeo sobre Dario Amodei, Jensen Huang y Sarah Heck.
Qué opciones judiciales contempla el documento
El marco de junio presenta la intervención judicial como una opción de aplicación. En uno de los diseños, una agencia federal tendría que acudir a los tribunales para solicitar medidas. Ante un riesgo catastrófico inminente, podrían considerarse medidas provisionales sujetas a revisión judicial; el documento también plantea una revisión acelerada para que los desarrolladores puedan impugnar las medidas. Si un tribunal no las confirmara dentro del plazo previsto, podrían revertirse.
Anthropic propone además limitar las medidas a infracciones especificadas, en lugar de dejar que dependan únicamente de la valoración de riesgo de la agencia. Son opciones recogidas en el marco publicado en junio; la facultad de bloqueo de la propuesta posterior es la que AFP describió como sujeta a autorización judicial.
El marco de junio define el riesgo catastrófico en términos generales: un riesgo previsible y material de muertes, lesiones o daños significativos. AFP atribuyó los umbrales numéricos de más de 50 personas muertas o con lesiones graves, o más de 1.000 millones de dólares en pérdidas, a la propuesta posterior.
AFP informó el 17 de octubre de 2026 de que el Congreso estadounidense aún no había aprobado legislación relacionada con la propuesta.
