5 października 2026 r. podczas posiedzenia Komitetu Plenarnego Rady Miasta Nowego Jorku Julie Menin poprosiła przedstawicieli OpenAI, Anthropic, Meta i Google o bezwzględne zapewnienie, że ich agenci AI zawsze będą przestrzegać zabezpieczeń mających zapobiegać katastrofalnym szkodom. Według relacji żaden z nich nie udzielił takiej gwarancji, a odpowiedzi różniły się zakresem.
Odpowiedzi przedstawicieli firm
Morgan Dwyer z OpenAI wskazała, że nie można zagwarantować technologii całkowitego braku ryzyka. Logan Graham z Anthropic określił naukę o kontrolowaniu takich systemów jako trudną i wciąż nierozstrzygniętą. Alice Friend z Google powiedziała, że obietnica doskonałości nie jest możliwa.
Shane Cahill z Meta zadeklarował zaangażowanie firmy w bezpieczny rozwój i wdrażanie AI. To deklaracja dotycząca działań Meta, a nie obietnica, że jej agenci zawsze będą posłuszni zabezpieczeniom.
Propozycje dotyczące bezpieczeństwa AI
Porządek obrad obejmował propozycje dotyczące niezależnej walidacji modeli i możliwości ich wyłączenia przez człowieka, ujawniania incydentów bezpieczeństwa AI związanych z miejskimi kontraktami oraz mechanizmów egzekwowania przepisów. W oficjalnym rejestrze Rady Miasta odpowiednie punkty oznaczono jako rozpatrywane lub odroczone.
Oficjalny rejestr posiedzenia
Oficjalny rejestr posiedzenia z 5 października podaje godzinę rozpoczęcia — 11:00 czasu nowojorskiego — oraz miejsce: sale Rady w ratuszu. Zawiera końcowy porządek obrad i protokół, a także odsyła do nagrania.
