Trillium Labs, organisation à but non lucratif fondée par les chercheurs en IA Nathan Lambert et Tom Zick, aurait été lancée le 2 octobre 2026. Le projet des fondateurs est de publier les détails des expériences que le laboratoire mènera, afin que des scientifiques extérieurs puissent les examiner et les reproduire.

Trillium Labs mise sur la recherche ouverte

La publication des détails expérimentaux doit permettre à d’autres équipes d’examiner les méthodes employées et de reproduire les travaux. Cette approche est au cœur du projet de Trillium Labs : les fondateurs veulent rendre la recherche plus accessible à la critique scientifique extérieure.

Les recherches que Trillium Labs prévoit de mener

Le post-entraînement, c’est-à-dire le réglage de grands modèles après leur entraînement initial, doit constituer le premier axe de recherche. Trillium Labs prévoit également d’étudier l’apprentissage par renforcement et ses effets sur les capacités et le comportement des modèles, notamment les comportements inattendus et la complaisance.

Parmi les autres sujets envisagés figurent les agents d’IA et l’auto-amélioration récursive : l’idée qu’un système contribue à améliorer des versions ultérieures de lui-même. Ces domaines placent le laboratoire au cœur de questions sensibles sur l’évolution des capacités de l’IA.

Le débat sur l’ouverture des recherches en IA

Pour les fondateurs, l’examen externe et la reproduction des expériences peuvent aider à mieux comprendre les risques associés à l’IA. L’approche fait écho à un débat plus large : ses partisans voient dans la transparence un moyen d’élargir la recherche, tandis que les défenseurs d’un accès restreint estiment que garder les modèles puissants entre les mains d’acteurs de confiance peut limiter les dommages pendant que les travaux se poursuivent.

Les projets financiers des fondateurs

Nathan Lambert et Tom Zick visent une collecte totale de 40 à 100 millions de dollars. Ils prévoient par ailleurs de consacrer 30 millions de dollars à l’entraînement sur une période de 18 mois.