O lançamento da Trillium Labs foi noticiado em 2 de outubro de 2026. Fundada por Nathan Lambert e Tom Zick, a organização pretende publicar detalhes de seus experimentos para que pesquisadores externos possam analisá-los e tentar replicar os resultados.
Trillium Labs começa com um plano de pesquisa aberta
A proposta coloca a abertura no centro do trabalho: compartilhar detalhes dos experimentos pode permitir que cientistas de fora examinem os métodos e reproduzam os resultados. É um plano de pesquisa, não um conjunto de estudos já concluídos.
O que a Trillium Labs pretende pesquisar
O foco inicial previsto é o pós-treinamento, etapa em que modelos já construídos passam por ajustes, como o ajuste fino. A organização também pretende estudar como o aprendizado por reforço — uma técnica de treinamento — influencia as capacidades e o comportamento dos modelos, inclusive respostas inesperadas e a tendência de concordar excessivamente com o usuário.
Os planos incluem ainda agentes de IA e o autoaperfeiçoamento recursivo: a ideia de sistemas participarem do aprimoramento de versões futuras de si mesmos. Essas áreas estão entre os temas que a Trillium Labs pretende investigar.
A disputa sobre pesquisa aberta e acesso restrito
Nathan Lambert defende que o escrutínio externo ajuda a ampliar a pesquisa e a avaliar riscos. Em sentido contrário, defensores de restringir o acesso a modelos poderosos argumentam que mantê-los nas mãos de pessoas confiáveis pode limitar danos enquanto a pesquisa continua.
A proposta da Trillium Labs se insere nesse debate: compartilhar experimentos favorece a análise externa, enquanto restringir o acesso é apresentado como uma forma de conter o uso potencialmente nocivo de capacidades poderosas.
Os planos financeiros dos fundadores
Nathan Lambert e Tom Zick têm como meta captar de US$ 40 milhões a US$ 100 milhões no total. Os fundadores também planejam destinar US$ 30 milhões ao treinamento de modelos ao longo dos 18 meses seguintes ao anúncio.
