Anthropic wilde het Amerikaanse AI-veiligheidsontwerp aanpassen, meldde RobotPulse op 19 oktober 2026. Het ontwerp dat POLITICO op 16 oktober beschreef, bevat onafhankelijke evaluaties, aanvullende rapportageplichten en een beperkte procedure om een rechter om opschorting te vragen. Het gaat om een voorstel, niet om geldende wetgeving.
Anthropic wilde onderdelen van het ontwerp herzien
RobotPulse meldde dat Anthony Cimino, hoofd federale zaken bij Anthropic, wijzigingen aankondigde rond de rol van deelstaten, risicodrempels, incidentmeldingen en onafhankelijke evaluatoren.
NeoTeo berichtte eerder over het voorstel van Anthropic voor rechterlijke blokkering van een AI-model. De door POLITICO beschreven tekst omvat naast de drempels ook bredere verplichtingen voor AI-labs.
Een woordvoerder van Anthropic zei op 16 oktober dat de voorstellen voortbouwen op Anthropic’s Advanced AI Framework en dat het bedrijf ze sinds juni bij federale en deelstaatpolitici bepleitte. Volgens de woordvoerder zou het Congres de voorstellen moeten aannemen.
Het ontwerp zou meer verplichtingen opleggen
Volgens POLITICO zouden frontierlabs veiligheidskaders moeten opstellen, transparantierapporten over nieuwe geavanceerde AI-modellen moeten publiceren en klokkenluiders moeten beschermen. Ook zouden ze kritieke veiligheidsincidenten aan het Amerikaanse ministerie van Handel, het U.S. Department of Commerce (Commerce), moeten melden.
Zo zou een mogelijke opschorting verlopen
De voorgestelde procedure begint bij periodieke beoordelingen door onafhankelijke evaluatoren die bij Commerce geregistreerd zijn. Zij zouden AI-labs en hun geavanceerde modellen beoordelen. Een lab zou de evaluator mogen betalen, zolang de vergoeding niet afhangt van de uitkomst.
Een evaluator zou Commerce binnen 72 uur na afronding van een beoordeling moeten waarschuwen als die een voorzienbaar en onmiddellijk risico vaststelt. Het moet daarbij gaan om een risico op meer dan 1 miljard Amerikaanse dollar schade, of op meer dan 50 mensen die om het leven komen of ernstig gewond raken. De gemelde risicocategorieën zijn de ontwikkeling of verspreiding van een biologisch wapen, een model dat de beveiligingsmaatregelen van zijn ontwikkelaar omzeilt, of een cyberaanval.
Commerce zou vervolgens een verzoek tot opschorting kunnen indienen bij een federale rechter in het District of Columbia. Die rechter zou de opschorting kunnen bevelen. Binnen deze voorgestelde procedure zouden andere federale departementen, agentschappen en functionarissen die bevoegdheid niet krijgen. De drempels gelden voor deze route; ze vormen geen algemene vrijstelling van andere wetgeving of aansprakelijkheid.
Het voorstel zou bepaalde deelstaatregels raken
Het ontwerp zou sommige deelstaatwetten opzijzetten over openbare bekendmaking van risico’s, evaluaties door derden en meldingen van kritieke incidenten. POLITICO meldde dat de risicotaal lijkt op die in Californische AI-wetgeving, waaronder SB 53. De voorgestelde voorrang betreft specifieke onderwerpen, niet alle regels van iedere deelstaat.
De voorstellen gaan over Amerikaanse federale bevoegdheden en bepaalde regels van Amerikaanse deelstaten.
