Według doniesień Trillium Labs rozpoczęło działalność 2 października 2026 r. Organizacja chce publikować szczegóły eksperymentów, aby zewnętrzni badacze mogli je analizować i odtwarzać. To deklarowany sposób prowadzenia badań, a nie opis ukończonych eksperymentów.
Założycielami Trillium Labs są Nathan Lambert i Tom Zick. Początkowo organizacja ma zajmować się dostrajaniem dużych modeli po ich wstępnym treningu. W planach są również badania nad uczeniem ze wzmocnieniem, agentami AI i rekurencyjnym samodoskonaleniem.
Co Trillium Labs zamierza badać
Post-training, czyli dostrajanie modelu po jego wstępnym treningu, jest wskazany jako pierwszy obszar prac. Trillium Labs chce też badać, jak uczenie ze wzmocnieniem wpływa na możliwości i zachowanie modeli, w tym na nieoczekiwane zachowania i skłonność do przytakiwania użytkownikowi.
Agenci AI oraz rekurencyjne samodoskonalenie to kolejne planowane tematy. To drugie określenie opisuje proces, w którym system AI miałby pomagać w ulepszaniu kolejnych wersji samego siebie. Trillium Labs zamierza badać te zagadnienia; nie są to przedstawione wyniki jego prac.
Spór o otwarte i ograniczone badania nad AI
Publikowanie szczegółów eksperymentów ma ułatwić zewnętrznym badaczom ocenę wyników i ich niezależne odtworzenie. Zwolennicy takiej otwartości wskazują, że szersza kontrola może pomóc lepiej rozumieć możliwości i zagrożenia związane z AI.
Druga strona debaty opowiada się za ograniczaniem dostępu do potężnych modeli. Jej argumentem jest możliwość zmniejszenia ryzyka szkód w świecie rzeczywistym, gdy badania trwają dalej. Plany Trillium Labs wpisują się więc w spór o to, ile szczegółów dotyczących badań nad zaawansowaną AI powinno być publicznie dostępnych.
Finansowe plany założycieli
Nathan Lambert i Tom Zick wyznaczyli sobie cel zebrania łącznie 40–100 mln dolarów. Osobno planują przeznaczyć 30 mln dolarów na trenowanie modeli w ciągu 18 miesięcy. Pierwsza kwota to cel zbiórki, druga — planowany wydatek na trening.
