Projekt ustawy Anthropic miałby wykorzystywać próg poważnego ryzyka jako warunek, który pozwalałby rządowi federalnemu zablokować model AI. Według porównania opisanego przez POLITICO 21 października podobne wartości w kalifornijskiej ustawie SB 53 służą firmom do oceny ryzyka i ujawniania informacji władzom stanowymi. Propozycję Anthropic przedstawiono jako projekt zgłoszony ustawodawcom, nie obowiązującą ustawę.

To inne zadanie regulacyjne: próg w projekcie miałby ograniczać możliwość federalnej blokady modelu, a w kalifornijskim prawie wiąże się z oceną ryzyka i ujawnianiem informacji. Szerszy spór o niezależny nadzór nad bezpieczeństwem AI opisaliśmy w artykule o stanowiskach Dario Amodeia i Jensena Huanga.

Rzecznik Anthropic powiedział POLITICO, że projekt odzwierciedla propozycje z Advanced AI Framework firmy, za którymi Anthropic zabiega u federalnych i stanowych ustawodawców od czerwca.

Jak miałaby działać procedura wstrzymania modelu

Według opisu POLITICO z 16 października próg obejmowałby przewidywalne i bezpośrednie ryzyko śmierci lub ciężkich obrażeń ponad 50 osób albo szkód przekraczających 1 mld dolarów. Wymienione scenariusze to stworzenie lub uwolnienie broni biologicznej, wymknięcie się modelu spod kontroli jego twórcy oraz cyberatak.

Szczegóły procedury opisał 20 października Business Insider, przedrukowując relację POLITICO. Niezależni ewaluatorzy, wpisani do rejestru Departamentu Handlu USA, mieliby okresowo oceniać laboratoria AI i ich najbardziej zaawansowane modele. Firmy mogłyby opłacać takie oceny, o ile wynagrodzenie ewaluatora nie zależałoby od wyniku.

Jeśli ewaluator stwierdziłby bezpośrednie ryzyko należące do wymienionych kategorii, miałby 72 godziny od zakończenia oceny na zgłoszenie go Departamentowi Handlu. Następnie departament mógłby zwrócić się do sędziego federalnego w Dystrykcie Kolumbii o nakaz wstrzymania modelu.

Zgodnie z opisywanym projektem inne federalne departamenty, agencje i urzędnicy nie mogliby samodzielnie wstrzymywać rozwoju modelu, jego wdrażania ani wewnętrznego użycia. Decyzja o sądowym wstrzymaniu należałaby do procedury prowadzonej przez Departament Handlu.

Obowiązki laboratoriów i przepisy stanowe

Projekt przewidywałby dla laboratoriów ramy bezpieczeństwa, raporty przejrzystości dotyczące nowych modeli granicznych, ochronę sygnalistów oraz zgłaszanie Departamentowi Handlu poważnych incydentów związanych z bezpieczeństwem. Obejmowałby też wyłączenie części przepisów stanowych dotyczących publicznego ujawniania ryzyka, niezależnych ewaluacji i zgłaszania takich incydentów.

Granica opisana przez POLITICO zmieniła się między relacjami z 16 i 21 października. Pierwsza mówiła o ryzyku dla ponad 50 osób lub szkodach przekraczających 1 mld dolarów; druga używała sformułowań „50 lub więcej osób” oraz „1 mld dolarów”.