Una información publicada el 21 de septiembre atribuyó al secretario del Tesoro de EE. UU., Scott Bessent, que funcionarios estadounidenses y chinos habían hablado de crear un mecanismo de diálogo sobre inteligencia artificial y de notificar incidentes que pudieran afectar a la seguridad nacional. La iniciativa apunta a compartir información sobre riesgos, no a fijar el ritmo general del desarrollo de la IA.
Qué diálogo sobre riesgos de IA se planteó
La propuesta descrita por Bessent contempla un mecanismo de diálogo y avisos sobre incidentes de IA con posibles consecuencias para la seguridad nacional. Una notificación de este tipo serviría para que los gobiernos puedan intercambiar información cuando un incidente exija atención urgente.
La idea se relaciona con una preocupación concreta: que una acción vinculada a la IA se atribuya por error al otro país. Esa confusión, conocida como atribución errónea, podría desencadenar una respuesta antes de que se entienda qué ha ocurrido.
Qué salvaguardas se han propuesto para la IA militar
El 9 de septiembre, Melanie W. Sisson y Tianjiao Jiang publicaron un comentario sobre el control humano de la IA militar. Entre las propuestas asociadas a ese trabajo figuran establecer límites en torno a los sistemas nucleares de ambos países, mantener el control humano sobre ciberoperaciones de consecuencias graves y crear un canal directo de comunicación militar para tratar incidentes relacionados con la IA.
Estas medidas buscan reducir el riesgo de una escalada. El escenario que intentan prevenir es hipotético: una intrusión relacionada con IA, o una respuesta defensiva automatizada, podría confundirse con un ataque del otro país y provocar represalias antes de aclarar su origen.
Cooperar en riesgos concretos en plena rivalidad
El posible intercambio de avisos se refiere a incidentes y riesgos de seguridad compartidos. Es distinto de acordar una ralentización general del desarrollo de IA. Dario Amodei, consejero delegado de Anthropic, ha defendido acompasar la mejora de las capacidades de los modelos para que las medidas de seguridad puedan seguir su ritmo; esa propuesta aborda el avance de la IA de frontera, no un canal bilateral para gestionar incidentes militares.
La diferencia importa: una comunicación directa podría ayudar a aclarar un incidente concreto sin exigir que Estados Unidos y China adopten la misma estrategia de desarrollo tecnológico.
