Anthropic stelde begin oktober 2026 in een brief aan de Californische gouverneur Gavin Newsom voor dat rechters AI-programma’s met ernstige risico’s kunnen blokkeren. Het bedrijf pleitte ook voor kill switches, noodschakelaars om AI-technologie stil te leggen, en externe veiligheidsauditors die binnen bedrijven naast medewerkers werken. POLITICO berichtte op 27 oktober over de brief.
De brief sluit aan bij het debat over publiek toezicht op AI dat NeoTeo eerder behandelde in berichtgeving over Anthropic en overheidstoezicht op AI.
De drie voorstellen in de brief
Anthropic stelde voor rechters de bevoegdheid te geven AI-programma’s met ernstige risico’s te blokkeren. De brief noemt daarnaast kill switches die AI-bedrijven voor hun technologie zouden ontwikkelen. Dat zijn noodschakelaars waarmee systemen kunnen worden stilgelegd.
Ook pleitte Anthropic voor externe veiligheidsauditors die binnen bedrijven naast medewerkers werken. Zo’n auditor beoordeelt veiligheidsmaatregelen van buiten de organisatie. De brief beschrijft deze maatregelen als voorstellen voor toezicht op AI.
De uitspraak van augustus ging over een andere zaak
Op 27 augustus 2026 oordeelde rechter Rita F. Lin in een afzonderlijk geschil over de classificatie van Anthropic als risico voor de toeleveringsketen. Volgens een Bloomberg-bericht dat East Bay Times overnam, vond Lin die classificatie onvoldoende onderbouwd en beval ze de Amerikaanse regering het ermee verbonden verbod op te heffen.
| Brief aan Gavin Newsom | Afzonderlijke zaak over de classificatie | |
| Onderwerp | Anthropic stelde een algemene rechterlijke bevoegdheid voor om AI-programma’s met ernstige risico’s te blokkeren. | De onderbouwing van een specifieke overheidsclassificatie en het daarmee verbonden verbod op Anthropic. |
| Uitkomst | Een voorstel voor AI-toezicht. | Lin beval het verbod op basis van de classificatie op te heffen. |
| Reikwijdte | De brief ging over voorgestelde bevoegdheden voor toezicht op AI. | Het bevel verplichtte de overheid niet Anthropic-producten te gebruiken en verhinderde geen rechtmatige overstap naar andere leveranciers. |
