Według relacji opublikowanej 21 września sekretarz skarbu USA Scott Bessent mówił, że amerykańscy i chińscy urzędnicy rozmawiali o możliwym mechanizmie dialogu dotyczącego AI oraz zgłaszania incydentów, które mogą zagrażać bezpieczeństwu narodowemu. Chodzi o propozycje rozmów i powiadamiania, nie o opis wdrożonego rozwiązania.
Jak miałby działać dialog o incydentach AI?
Mechanizm powiadamiania pozwalałby informować drugą stronę o poważnym incydencie związanym ze sztuczną inteligencją. W przypadku USA i Chin taka wymiana mogłaby dotyczyć zdarzeń istotnych dla bezpieczeństwa narodowego. Osobno omawiano możliwość stałego dialogu o zagrożeniach związanych z AI.
Temat nabiera znaczenia w warunkach rywalizacji technologicznej. Amerykańscy urzędnicy podkreślają dążenie do utrzymania przewagi w AI, a chińskie władze sprzeciwiają się jednostronnemu narzucaniu zasad bezpieczeństwa i krytykują łączenie tych propozycji z ograniczeniami eksportu zaawansowanych układów.
Dlaczego wojskowa AI może zwiększyć ryzyko eskalacji?
Scenariusz opisywany w debacie jest hipotetyczny: włamanie związane z AI albo automatyczna reakcja obronna mogłyby zostać błędnie uznane za działanie drugiego państwa. Taka pomyłka mogłaby doprowadzić do odwetu, zanim rządy ustaliłyby, co się wydarzyło. Nie chodzi o opis zaistniałego kryzysu, lecz o ryzyko, któremu proponowane mechanizmy miałyby zapobiegać.
Błędne przypisanie odpowiedzialności — czyli uznanie, że za incydent odpowiada inne państwo, choć nie ustalono, kto go spowodował — może być szczególnie niebezpieczne, gdy decyzje zapadają szybko. Bezpośredni kanał łączności między wojskiem mógłby dać obu stronom możliwość wyjaśnienia sytuacji przed podjęciem dalszych działań.
Jakie zabezpieczenia dla wojskowej AI zaproponowano?
Melanie W. Sisson i Tianjiao Jiang opublikowali 9 września wspólny komentarz o ludzkiej kontroli nad wojskową AI. Opisywane propozycje obejmowały trzy obszary: wyznaczenie granic dotyczących systemów jądrowych USA i Chin, zachowanie ludzkiej kontroli nad cyberatakami o poważnych konsekwencjach oraz utworzenie bezpośredniego, dedykowanego kanału łączności wojskowej do omawiania incydentów związanych z AI.
Ludzka kontrola w tym ujęciu oznacza, że o cyberoperacjach o poważnych skutkach nie decydowałby sam system AI. Kanał łączności miałby służyć kontaktowi w sytuacji kryzysowej, zanim błędna interpretacja incydentu przerodziłaby się w eskalację.
Rywalizacja ogranicza zakres możliwej współpracy
Odrębną propozycję przedstawił Dario Amodei, szef Anthropic: tempo wzrostu możliwości najbardziej zaawansowanych modeli AI powinno pozwalać, by prace nad bezpieczeństwem nadążały za ich rozwojem. To szersza debata o tempie rozwoju AI, osobna od wojskowych zabezpieczeń i komunikacji między rządami.
Węższa współpraca przy testowaniu systemów, bioasekuracji i zgłaszaniu poważnych incydentów jest przedstawiana jako bardziej realna niż szerokie, wzajemne spowolnienie rozwoju AI. Donald Trump miał zaplanowane przyjęcie Xi Jinpinga w Waszyngtonie 24 września podczas wizyty państwowej.
