6 października 2026 r. Geoffrey Hinton zaproponował, by firmy AI przed udostępnieniem produktów przekonywały regulatora, że są one bezpieczne. Pomysł przedstawił podczas występu w podcaście „Smart Girl Dumb Questions”; porównał go z procedurą dopuszczania nowych leków.
Co zaproponował Geoffrey Hinton
W koncepcji Hintona firma miałaby uzyskać zgodę na wprowadzenie produktu AI dopiero po przekonaniu regulatora o jego bezpieczeństwie. To propozycja kontroli przed udostępnieniem produktu, a nie opis gotowej procedury.
Hinton mówił o regulatorze, natomiast amerykańską Agencję Żywności i Leków (FDA) przywołał w kontekście dopuszczania leków. FDA nie wskazał jako organu, który miałby nadzorować AI.
Porównanie z dopuszczaniem leków
Hinton zestawił swój pomysł z obowiązkiem przekonania FDA, że nowy lek jest bezpieczny. W tym porównaniu podał kwotę około miliarda dolarów jako wartość pracy potrzebnej do przekonania agencji w sprawie leku.
Dlaczego Hinton przedstawił tę ideę
Hinton mówił, że AI jest wykorzystywana do ulepszania AI na wiele sposobów. Jego zdaniem może to przyspieszać rozwój możliwości systemów, ale również zwiększać związane z nimi ryzyko.
Hinton przypuszczał, że sytuacja może znacznie się pogorszyć w ciągu roku lub dwóch, i wyraźnie określił tę ocenę jako zgadywanie.
