Autores de um novo trabalho sobre inteligência artificial alertam que a automação da pesquisa e do desenvolvimento de IA pode acelerar o avanço da tecnologia e dificultar o controle humano. Eles propõem medidas de supervisão, mas tratam uma possível explosão de inteligência como um cenário incerto, não como um fato consumado.
Um alerta sobre a automação da pesquisa em IA
O trabalho, intitulado “What if automating AI R&D triggers an intelligence explosion?”, tem mais de 20 autores. Entre os coautores estão Geoffrey Hinton, Yoshua Bengio, Jack Clark, cofundador da Anthropic, e Jakub Pachocki, cientista-chefe da OpenAI.
A ideia central é que sistemas de IA poderiam ajudar a automatizar a própria pesquisa e desenvolvimento que produz sistemas mais capazes. Isso não significa apenas usar IA para auxiliar em tarefas de programação: a hipótese envolve automatizar etapas da criação e do aprimoramento de novos sistemas.
O que seria uma explosão de inteligência
Os autores usam a expressão explosão de inteligência para descrever uma possível aceleração dramática do progresso em IA. Nesse cenário, avanços que levariam anos poderiam acontecer em meses ou menos, à medida que sistemas automatizassem mais etapas da pesquisa.
A escala imaginada é condicional. Se a IA alcançasse capacidade especializada em pesquisa e desenvolvimento, um único desenvolvedor poderia, segundo o cenário descrito pelos autores, dirigir uma força de trabalho de IA equivalente a milhões dos melhores pesquisadores humanos. Trata-se de uma hipótese sobre uma capacidade futura, não de uma medida da força de trabalho atual.
As medidas de supervisão propostas
Os autores defendem tornar mais visível o progresso da pesquisa em IA e submeter o trabalho a avaliações independentes. Também propõem limitar o ritmo de desenvolvimento, preparar pausas para determinados projetos de pesquisa e desenvolvimento realizados em data centers, isolar sistemas automatizados e planejar respostas a emergências.
Na prática, essa supervisão combinaria acompanhamento externo com mecanismos para conter ou interromper atividades específicas. As medidas são recomendações dos autores, não regras gerais já em vigor.
Uma previsão condicional para 2028
Os autores preveem que, até 2028, projetos de pesquisa e desenvolvimento que levam meses para serem concluídos por humanos poderiam ser totalmente automatizados por IA. A previsão se refere a esse tipo de projeto; não afirma que toda a pesquisa será automatizada nem que essa capacidade já exista.
O próprio cenário depende de fatores que podem limitar ou atrasar a automação, entre eles a disponibilidade de poder computacional, as dificuldades de automatizar etapas de pesquisa, os retornos decrescentes, a duração dos treinamentos, as cadeias de suprimentos e a regulação. Os autores também consideram que a IA poderia acelerar o desenvolvimento de medidas para reduzir riscos.
