Geoffrey Hinton stelde op dinsdag 6 oktober voor dat AI-bedrijven een toezichthouder vóór de release overtuigen van de veiligheid van hun producten. De computerwetenschapper maakte dat voorstel tijdens de podcast Smart Girl Dumb Questions en vergeleek het met de beoordeling van nieuwe geneesmiddelen.
Wat Geoffrey Hinton voorstelde
Hinton wil dat AI-bedrijven hun producten pas uitbrengen nadat een toezichthouder ervan overtuigd is dat ze veilig zijn. Daarmee zouden AI-producten vooraf een formele veiligheidstoets krijgen.
De vergelijking met geneesmiddelen goedkeuren
De Amerikaanse Food and Drug Administration (FDA) kwam ter sprake als toezichthouder op geneesmiddelen. Hinton vergeleek zijn voorstel voor AI met de manier waarop een geneesmiddelenbedrijf de FDA ervan moet overtuigen dat een nieuw middel veilig is.
Het bedrag van ongeveer 1 miljard dollar sloeg op het werk dat Hinton met die geneesmiddelenvergelijking in verband bracht. Het was geen schatting van de kosten voor een beoordeling van een AI-model.
Waarom Hinton het idee opperde
Hinton wees erop dat AI wordt gebruikt om AI-systemen te verbeteren. Hij omschreef die ontwikkeling als recursieve zelfverbetering: AI helpt bij het maken of verbeteren van andere AI. Volgens hem kan dat zowel de mogelijkheden als de risico’s versnellen.
Hinton schatte dat de situatie mogelijk binnen een jaar of twee veel slechter zou worden, maar noemde die inschatting zelf nadrukkelijk een gok.
