Op 2 oktober 2026 werd gemeld dat Trillium Labs was gelanceerd. De non-profit, opgericht door Nathan Lambert en Tom Zick, wil details van experimenten publiceren zodat externe onderzoekers het werk kunnen beoordelen en repliceren. Daarmee kiest de organisatie voor openheid in een debat over hoe onderzoek naar krachtige AI-modellen moet worden uitgevoerd.
Trillium Labs begint met een plan voor open AI-onderzoek
Trillium Labs wil experimentele details openbaar maken voor toetsing door andere onderzoekers en om herhaling van het werk mogelijk te maken. Dat is de onderzoeksaanpak die de oprichters voor ogen hebben.
Open publicatie kan meer onderzoekers de kans geven om resultaten te bekijken en risico’s te beoordelen. Daar staat de redenering tegenover dat beperkte toegang tot krachtige modellen mogelijke schade in de praktijk kan beperken terwijl het onderzoek doorgaat.
Wat Trillium Labs wil onderzoeken
De eerste focus is post-training: het verder trainen of bijstellen van grote modellen nadat ze zijn gebouwd. Trillium Labs wil daarnaast onderzoeken hoe reinforcement learning — leren op basis van beloningen — de mogelijkheden en het gedrag van modellen beïnvloedt. Daarbij gaat het ook om onverwacht gedrag en meegaand, soms vleierig gedrag.
De plannen omvatten verder AI-agenten en recursieve zelfverbetering: het idee dat AI-systemen bijdragen aan het verbeteren van hun eigen mogelijkheden. Dit zijn voorgenomen onderzoeksgebieden.
De financiële plannen van de oprichters
Lambert en Zick willen in totaal 40 tot 100 miljoen dollar ophalen. Daarnaast zijn ze van plan 30 miljoen dollar uit te geven aan training over een periode van 18 maanden.
