Am 5. Oktober 2026 bat Julie Menin bei einer Anhörung des New York City Council Vertreter von OpenAI, Anthropic, Meta und Google um eine absolute Zusage: Ihre KI-Agenten sollten stets Sicherheitsvorkehrungen einhalten, die katastrophale Schäden verhindern sollen. Laut einem Bericht vom 6. Oktober gab keiner diese Zusage; die Antworten fielen unterschiedlich aus.
Was die Vertreter laut Bericht antworteten
Morgan Dwyer von OpenAI habe erklärt, sie könne für keine Technologie garantieren, dass sie risikofrei sei. Logan Graham von Anthropic habe die Forschung zur Kontrolle von KI-Systemen als schwierig und in zentralen Fragen ungeklärt beschrieben. Alice Friend von Google habe gesagt, ein Versprechen auf Perfektion sei nicht möglich.
Shane Cahill von Meta habe sich zur Verpflichtung des Unternehmens bekannt, KI sicher zu entwickeln und einzusetzen. Diese Zusage bezog sich auf Metas Verpflichtung, nicht auf eine Garantie, dass KI-Agenten stets Schutzvorgaben befolgen.
Welche KI-Vorschläge auf der Tagesordnung standen
Die Tagesordnung umfasste Vorschläge für eine externe Prüfung durch Dritte und eine von Menschen bedienbare Abschaltmöglichkeit für KI-Modelle. Weitere Punkte betrafen die öffentliche Offenlegung bestimmter KI-Sicherheitsvorfälle im Zusammenhang mit städtischen Aufträgen sowie private oder zivilrechtliche Durchsetzungsmechanismen. Der Sitzungsstatus führt die betreffenden Punkte als behandelt oder vertagt.
Sitzung und offizieller Eintrag
Die Anhörung begann um 11 Uhr Ortszeit in den Council Chambers im City Hall. Der offizielle Sitzungseintrag des New York City Council führt die Tagesordnung und das Protokoll als endgültig und verlinkt eine Aufzeichnung der Sitzung.
