Trillium Labs startete Berichten zufolge am 2. Oktober 2026. Die gemeinnützige Organisation wurde von den KI-Forschern Nathan Lambert und Tom Zick gegründet. Ihr Plan: Experimentdetails veröffentlichen, damit externe Forschende die Arbeit prüfen und reproduzieren können.
Trillium Labs startet mit einem Plan für offene KI-Forschung
Die Gründer setzen darauf, dass öffentliche Einblicke in ihre Experimente mehr Forschenden ermöglichen, die Ergebnisse nachzuvollziehen und mögliche Risiken einzuschätzen. Das ist der Ansatz, mit dem Trillium Labs antritt: Forschungsergebnisse sollen nicht nur intern diskutiert werden, sondern auch von außen überprüfbar sein.
Diese Forschung will Trillium Labs angehen
Zunächst soll Post-Training im Mittelpunkt stehen. Damit ist die nachträgliche Feinabstimmung großer Modelle gemeint, nachdem sie aufgebaut wurden.
Weitere geplante Themen sind Reinforcement Learning – bestärkendes Lernen – und dessen Einfluss auf Fähigkeiten und Verhalten von Modellen. Dazu zählen auch unerwartete Verhaltensweisen und übermäßige Zustimmung. Trillium Labs will außerdem KI-Agenten und rekursive Selbstverbesserung untersuchen, also die wiederholte Weiterentwicklung von KI-Systemen.
Warum offene KI-Forschung umstritten ist
Für die Gründer können externe Prüfung und Replikation dazu beitragen, die Forschung zu verbreitern und Risiken besser einzuschätzen. Das Gegenargument: Wer den Zugang zu leistungsfähigen Modellen beschränkt, kann mögliche Schäden in der Praxis begrenzen, während die Forschung weiterläuft.
Damit stehen zwei Ziele nebeneinander: Forschung für unabhängige Prüfung zugänglich zu machen und den Zugang zu leistungsfähigen Systemen zu kontrollieren. Trillium Labs’ Plan setzt auf Offenheit; welche konkreten Arbeiten daraus entstehen, ist Teil der vorgesehenen Forschung.
Die Finanzpläne der Gründer
Nathan Lambert und Tom Zick wollen insgesamt 40 bis 100 Millionen US-Dollar einwerben. Davon getrennt planen sie, innerhalb von 18 Monaten 30 Millionen US-Dollar für das Training auszugeben.
