Op 21 september kwam naar buiten dat de Amerikaanse minister van Financiën Scott Bessent had gezegd dat Amerikaanse en Chinese functionarissen een mogelijk dialoogmechanisme over AI hadden besproken. Ook spraken ze volgens hem over meldingen van AI-incidenten die de nationale veiligheid raken. Het gaat om besproken voorstellen, niet om een operationeel systeem.

Een kanaal voor AI-incidenten

Een meldingsmechanisme zou de twee landen informatie laten uitwisselen over AI-incidenten met mogelijke gevolgen voor de nationale veiligheid. Zo’n melding kan helpen voorkomen dat een gebeurtenis te snel als een doelbewuste aanval wordt opgevat. Dat is van belang bij militaire AI: geautomatiseerde systemen kunnen een cyberincident of een reactie op een vermeende dreiging onderdeel maken van een crisis voordat duidelijk is wat er precies is gebeurd.

Dat escalatiescenario is hypothetisch. Het beschrijft een mogelijk risico, geen incident tussen de Verenigde Staten en China.

Voorgestelde grenzen voor militaire AI

Melanie W. Sisson en Tianjiao Jiang publiceerden op 9 september een gezamenlijke beschouwing over menselijke controle over militaire AI. In de berichtgeving over hun voorstellen kwamen drie ideeën naar voren: rode lijnen rond de nucleaire systemen van beide landen, menselijke controle bij cyberoperaties met ernstige gevolgen en een directe militaire communicatielijn voor AI-gerelateerde incidenten.

Een directe lijn zou functionarissen de gelegenheid geven een incident te bespreken voordat een reactie tot verdere escalatie leidt. De voorstellen leggen nadruk op menselijke beoordeling en crisiscommunicatie; de beschreven communicatielijn is zelf ook een voorstel.

Veiligheid binnen een technologische rivaliteit

Incidentmeldingen en militaire waarborgen zijn een beperktere vorm van samenwerking dan een brede afspraak om de ontwikkeling van AI af te remmen. Dario Amodei, topman van Anthropic, heeft afzonderlijk gepleit voor een lager tempo van frontier-AI: de meest geavanceerde modellen moeten volgens hem niet sneller verbeteren dan veiligheidswerk kan bijhouden. Dat pleidooi voor het tempo van modelontwikkeling is iets anders dan overleg tussen regeringen over militaire risico’s.

De rivaliteit maakt zulke samenwerking politiek gevoelig. Chinese functionarissen hebben bezwaar gemaakt tegen veiligheidsregels die volgens hen eenzijdig worden opgelegd en tegen de koppeling van veiligheidsvoorstellen aan beperkingen op geavanceerde chips.