Donald Trump soll am 29. September 2026 im Weißen Haus einen freiwilligen KI-Sicherheitspakt vorgestellt haben. Als beteiligte Unternehmen werden Google, Meta, OpenAI, Anthropic, Nvidia und xAI genannt. Das Abkommen umfasst Berichten zufolge interne Schutzmaßnahmen, externe Prüfungen und unabhängige Aufsicht.
Ein freiwilliger Pakt für KI-Sicherheit
Der Pakt beschreibt vier Ebenen der Aufsicht: Sicherheitskontrollen und Risikoteams innerhalb der Unternehmen, externe Evaluierungen sowie einen unabhängigen Ausschuss im Zusammenhang mit den Unternehmensvorständen.
Vier Ebenen der Aufsicht über KI-Systeme
| Ebene | Vorgesehene Maßnahme |
| Interne Sicherheitskontrollen | Sicherheitskontrollen innerhalb der Unternehmen |
| Interne Risikoteams | Teams in den Unternehmen sollen Risiken überwachen |
| Externe Evaluierungen | Unabhängige Prüfungen von KI-Systemen |
| Unabhängiger Ausschuss | Ein Ausschuss auf Ebene der Unternehmensvorstände soll die unabhängige Aufsicht ergänzen |
Die Schutzmaßnahmen sollen KI-Systeme an den Vorgaben ihrer Entwickler ausrichten und unbefugten Zugriff auf technische Systeme verhindern. Im Mittelpunkt stehen Cyber- und Biosicherheitsrisiken.
Was der freiwillige Status bedeutet
Der Pakt ist kein Gesetz. Berichten zufolge drohen bei einer Nichteinhaltung weder Bußgelder noch eine gesetzliche Pflicht, die Zusagen umzusetzen.
Das Abkommen bezieht sich den Berichten zufolge auf die US-Aktivitäten der Unternehmen. Pflichten aus dem EU-Recht ersetzt es nicht.
