Em 6 de outubro de 2026, Geoffrey Hinton propôs que empresas de inteligência artificial convençam um órgão regulador de que seus produtos são seguros antes de lançá-los. Durante uma participação no podcast “Smart Girl Dumb Questions”, o cientista comparou a ideia à aprovação de medicamentos.
O que Geoffrey Hinton propôs
A proposta de Hinton é que a segurança de produtos de IA passe por uma avaliação regulatória antes da liberação. Em vez de lançar um sistema sem essa etapa, as empresas teriam de convencer um órgão regulador de que ele é seguro.
A ideia se refere a um órgão regulador, enquanto a FDA — a agência federal dos Estados Unidos responsável por medicamentos e alimentos — aparece na comparação de Hinton com a aprovação de novos medicamentos.
A comparação com a aprovação de medicamentos
Hinton afirmou que convencer a FDA sobre um novo medicamento exige muito trabalho e estimou esse esforço em cerca de US$ 1 bilhão. O valor faz parte da comparação que ele usou para defender uma etapa de segurança antes da liberação de produtos de IA.
Por que Hinton apresentou a ideia
Hinton afirmou que a IA já é usada para aprimorar outros sistemas de IA em diferentes frentes. Ele chamou esse processo de autoaperfeiçoamento recursivo: em termos simples, usar IA para melhorar a própria IA. Na avaliação dele, esse ciclo poderia acelerar tanto as capacidades quanto os riscos.
Sobre o prazo para uma piora significativa, Hinton chamou de palpite sua estimativa de que isso poderia acontecer em um ou dois anos.
