Op 13 oktober meldde Reuters dat ongeveer 400 wetenschappers uit 34 landen, onder wie Geoffrey Hinton en Yoshua Bengio, pleiten voor een internationaal orgaan voor toezicht op geavanceerde AI met cybercapaciteiten. Het orgaan zou gezamenlijke insluitingsnormen vaststellen en ernstige beveiligingsincidenten registreren. Het gaat om een voorstel.
Welke taken krijgt het voorgestelde orgaan?
De wetenschappers willen dat het orgaan normen opstelt voor de beveiliging en insluiting van geavanceerde AI-systemen. Ook zou het een register bijhouden van significante beveiligingsincidenten; dat register zou op termijn openbaar worden.
De oproep richt zich op organisaties die AI-modellen met cybercapaciteiten ontwikkelen of testen. Zij zouden meteen strenge insluitingsmaatregelen moeten hanteren, terwijl overheden aan een formeler toezichtskader werken.
Welke maatregelen vragen de wetenschappers?
Voor de meest geavanceerde modellen bepleiten de wetenschappers aanvankelijk loskoppeling van externe netwerken, ook wel airgapping genoemd. Daarnaast vragen ze om onafhankelijk toezicht. Zo moeten gedeelde normen en incidentmeldingen deel uitmaken van een internationale aanpak, in plaats van uitsluitend vrijwillige afspraken per bedrijf.
Geoffrey Hinton, een van de genoemde ondertekenaars, pleitte eerder voor een andere aanpak: AI-bedrijven zouden een toezichthouder vóór de introductie van hun producten van de veiligheid moeten overtuigen. Lees NeoTeo’s eerdere bericht over dat voorstel.
Hoe verschilt dit van andere AI-initiatieven?
Een afzonderlijke oproep van 22 staten en instellingen vraagt om menselijke sturing van AI en gemeenschappelijke regels, en stelt ook een internationale instelling aan de orde. Naiz berichtte over die oproep. Die diplomatieke oproep is een ander initiatief dan het voorstel van de wetenschappers.
Ook het Europese kader heeft een andere reikwijdte. Een uitleg van artikel 14 van de Europese AI-verordening beschrijft verplichtingen voor menselijk toezicht op hoogrisico-AI-systemen. Daarbij moet een toezichthouder onder meer de mogelijkheden en beperkingen van een systeem kunnen begrijpen, de uitvoer kunnen negeren en de werking kunnen onderbreken.
Reuters beschreef daarnaast een vrijwillig akkoord van Anthropic, OpenAI, Google, Meta, xAI en Nvidia, zonder formele handhaving. Dat is een bedrijfsafspraak; het voorstel van de wetenschappers draait om internationale normen en onafhankelijk toezicht.
