El 6 de octubre de 2026, el científico Geoffrey Hinton propuso que las empresas de inteligencia artificial convencieran a un regulador de que sus productos son seguros antes de lanzarlos. Planteó la idea durante una conversación en el pódcast “Smart Girl Dumb Questions”.
Qué propuso Geoffrey Hinton
La propuesta consiste en someter los productos de IA a una revisión de seguridad antes de su lanzamiento. Hinton habló de que las empresas convencieran a un regulador, y comparó esa evaluación previa con el proceso de aprobación de medicamentos.
El planteamiento es distinto de otra propuesta sobre la supervisión de la I+D automatizada de IA, que NeoTeo ya había tratado.
La comparación con la aprobación de medicamentos
Hinton recurrió a la aprobación farmacéutica y a la Administración de Alimentos y Medicamentos de Estados Unidos (FDA) para explicar su idea. En ese contexto, situó en unos 1.000 millones de dólares estadounidenses el trabajo necesario para convencer a la FDA sobre la aprobación de un nuevo medicamento. La cifra corresponde a esa analogía farmacéutica.
La FDA aparece como referencia en la comparación con los medicamentos; la propuesta para la IA habla de convencer a un regulador.
Por qué Hinton planteó la idea
Hinton relacionó la propuesta con el uso de la IA para mejorar otros sistemas de IA, un proceso que describió como automejora recursiva. A su juicio, esa dinámica podría acelerar tanto las capacidades como los riesgos.
También aventuró que la situación podía empeorar mucho en uno o dos años, aunque calificó ese plazo de conjetura.
