De open brief over AI en cybersecurity, die Geoffrey Hinton mede ondertekende, had op 16 oktober 489 namen op de ondertekenaarslijst staan, meldde The Next Web. De brief stelt voor cyberbekwame AI-modellen aanvankelijk van netwerken af te schermen. Voor modellen die wel met internet verbonden zijn, moeten de toegestane acties worden afgewogen tegen het beperkte vermogen om beveiligingsfouten te voorspellen, schrijft AI Security Letter.
Wat Hintons risicoschatting betekent
In een interview dat The Guardian op 13 oktober 2026 publiceerde, zei Hinton dat hij de kans dat AI in de komende decennia tot het uitsterven van de mensheid leidt op 10%–20% schat. Hij omschreef dat percentage als een manier om een ernstig risico aan te geven, niet als een voorspelling van een specifieke gebeurtenis. Het is zijn persoonlijke inschatting, geen gemeten kans.
Nvidia-topman Jensen Huang had Hinton op 23 september, in een interview met Ezra Klein, bekritiseerd. Huang zei dat Hintons schatting niet op wetenschap of onderzoek was gebaseerd en uitte ook kritiek op zijn voorspellingen. De uitspraken van beiden zijn terug te lezen in het Guardian-interview met Hinton.
Eerst afschermen, online acties begrenzen
De brief pleit voor strenge beveiliging en afscherming van modellen die cyberaanvallen kunnen uitvoeren. Als aanvankelijke standaard stelt hij airgapping voor: een model wordt dan niet met externe netwerken verbonden. Dat beperkt de mogelijkheden om buiten de afgeschermde omgeving te handelen.
Voor een model dat wel internettoegang krijgt, moeten de toegestane acties passen bij wat organisaties kunnen voorspellen over mogelijke beveiligingsfouten. Die afweging is belangrijk omdat de gevolgen van een actie moeilijk te voorzien kunnen zijn. Een online model krijgt volgens het voorstel dus geen onbeperkte handelingsruimte.
De brief houdt bovendien rekening met verschillende oorzaken van beveiligingsincidenten. Die kunnen volgens de ondertekenaars samenhangen met problemen in de afstemming van modelgedrag, maar ook met tekortkomingen in de cybersecurity. Daarom bepleit de brief zowel beter onderzoek naar die afstemming als sterkere sandboxing: het afschermen van een model binnen een gecontroleerde omgeving.
NeoTeo lichtte het voorstel voor internationaal toezicht op geavanceerde AI eerder toe. De brief koppelt dat toezicht aan een concreet beveiligingsvraagstuk: welke acties zijn verantwoord wanneer een cyberbekwaam model online mag?
Een internationale instantie is voorgesteld
De ondertekenaars stellen voor een internationaal orgaan op te richten dat, samen met overheden en experts uit AI en cybersecurity, best practices voor afstemming en afscherming ontwikkelt. Die richtlijnen zouden ook modellen kunnen omvatten die meer toegang krijgen dan bij airgapping mogelijk is.
De voorgestelde instantie zou incidenten rond het falen van zulke beveiligingsmaatregelen registreren en volgen. De brief bepleit dat organisaties die incidenten melden en dat ze op termijn openbaar worden gemaakt, zodat anderen ervan kunnen leren en verantwoording mogelijk wordt.
