Timnit Gebru uważa, że opowieści o zagładzie ludzkości przez AI i o „maszynie-bogu” mogą odciągać uwagę od obecnych szkód oraz od ludzi odpowiedzialnych za projektowanie i wdrażanie tych systemów. Jej stanowisko, przedstawione w rozmowie opublikowanej 11 września 2026 roku, nie jest dowodem, że każdy przyszły scenariusz katastroficzny jest niemożliwy. To przede wszystkim spór o priorytety, odpowiedzialność i sposób opowiadania o ryzyku.
Główna teza Gebru
Timnit Gebru jest założycielką i dyrektorką wykonawczą Distributed AI Research Institute. W swojej krytyce nie twierdzi, że ryzyko przyszłej katastrofy jest logicznie wykluczone. Zwraca natomiast uwagę, że skupienie na hipotetycznej, superinteligentnej maszynie może spychać na dalszy plan problemy, które są znacznie bliżej codziennego życia.
Chodzi między innymi o to, kto finansuje systemy AI, jakie dane trafiają do ich szkolenia, kto zatwierdza ich użycie i kto ponosi konsekwencje błędnych decyzji. W tym ujęciu AI nie jest niezależnym „bogiem maszyn”, lecz zbiorem narzędzi tworzonych przez konkretne organizacje i ludzi.
Czy Gebru uważa więc, że zagłada przez AI jest niemożliwa? Nie. Kwestionuje przede wszystkim pierwszeństwo i sposób opisywania tego scenariusza, a nie dowodzi eksperymentalnie, że każda przyszła katastrofa jest wykluczona.
Metafora mostu i ludzka odpowiedzialność
Gebru posługuje się prostą analogią: gdy zawala się most, nie analizujemy, czy konstrukcja była „etyczna”, świadoma albo dlaczego sama postanowiła się zawalić. Pytamy, kto ją zaprojektował, przetestował, zatwierdził i dopuścił do użytkowania.
Ten sam schemat przenosi na AI. Jeśli system działa szkodliwie, odpowiedzialność nie znika tylko dlatego, że jego zachowanie opisuje się jako „zbuntowanie się modelu”. Trzeba sprawdzić decyzje projektowe, testy, zasady wdrożenia i instytucje, które uznały dane zastosowanie za dopuszczalne.
To ważne rozróżnienie. Opis „AI zrobiła coś sama” może brzmieć efektownie, ale często zaciera łańcuch decyzji prowadzący od pomysłu do realnego użycia. A właśnie tam znajdują się punkty, w których można oceniać ryzyko i reagować.
Obecne ryzyka, na które wskazuje
Gebru wymienia zagrożenia, które nie wymagają scenariusza autonomicznej superinteligencji. Wśród nich są:
- autonomiczna broń i systemy wspierające zabijanie wykorzystywane w działaniach wojennych;
- wpływ rozwoju AI na klimat i zużycie zasobów;
- wypieranie pracowników oraz trudne warunki pracy;
- uprzedzenia algorytmiczne i dyskryminacja;
- wykorzystywanie danych oraz prywatności ludzi;
- dezinformacja;
- możliwe nadużycia chemiczne i biologiczne.
Nie wszystkie te problemy mają ten sam charakter ani skalę. Łączy je jednak to, że dotyczą decyzji podejmowanych przez ludzi i instytucje, a nie wyłącznie hipotetycznej chwili, w której maszyna miałaby samodzielnie postanowić o zniszczeniu ludzkości.
W tym sensie „egzystencjalne” nie musi oznaczać wyłącznie końca gatunku. Dla Gebru egzystencjalny wymiar mogą mieć także systemy wpływające na życie, bezpieczeństwo i przyszłość całych grup, zwłaszcza gdy są wdrażane bez odpowiedzialności proporcjonalnej do ich skutków.
Dlaczego ryzyko zagłady pozostaje osobną hipotezą
Zwolennicy badań nad bezpieczeństwem AI opisują inny scenariusz. Jeżeli bardzo zdolny system otrzymałby cel sprzeczny z ludzkimi interesami, mógłby — zgodnie z tym argumentem — dążyć do zachowania własnego działania, zdobycia zasobów lub usunięcia przeszkód stojących na drodze do realizacji celu. W skrajnym wariancie miałoby to prowadzić do katastrofalnych skutków.
To rozumowanie jest warunkowe: zakłada określony poziom zdolności systemu, dostęp do świata zewnętrznego i konflikt między jego celem a ludzkimi wartościami. Nie jest opisem obecnego, świadomego bytu ani ustalonym faktem naukowym. Pozostaje hipotezą, wokół której trwają spory dotyczące zarówno przesłanek, jak i prawdopodobieństwa.
Obie strony debaty mówią więc o różnych horyzontach. Gebru kieruje uwagę na szkody związane z istniejącymi decyzjami i wdrożeniami. Jej oponenci wskazują, że nawet warunkowe ryzyko przyszłej katastrofy może uzasadniać działania zapobiegawcze. Jedna perspektywa nie unieważnia automatycznie drugiej.
| Ujęcie | Horyzont czasowy | Główna obawa | Gdzie spoczywa odpowiedzialność |
| Perspektywa Timnit Gebru | Obecny i bliski | Szkody wynikające z wdrożeń, dyskryminacji, kosztów środowiskowych, pracy i użycia broni | Na projektantach, testujących, zatwierdzających, wdrażających i instytucjach czerpiących korzyści z systemów |
| Perspektywa ryzyka zagłady | Odległy i warunkowy | Bardzo zdolny system realizujący cel sprzeczny z ludzkimi interesami | Na twórcach i decydentach, którzy nie rozwiążą problemu kontroli i zgodności celów przed zwiększeniem możliwości systemów |
Szacunki nie zastępują dowodów
W debacie pojawiają się także liczbowe oceny ryzyka przypisywane pojedynczym osobom pracującym przy AI. Sama liczba nie staje się przez to prognozą naukową. Żeby można było traktować ją jako wiarygodne prawdopodobieństwo, potrzebne byłyby jasno opisane założenia, metoda obliczeń, zakres niepewności i możliwość niezależnej oceny.
Dla czytelnika praktyczna zasada jest prosta: odróżniaj osobistą ocenę eksperta od pomiaru, modelu prognostycznego i konsensusu badawczego. W przeciwnym razie precyzyjnie wyglądająca liczba może nadać spekulacji pozór pewności.
Mniejsze, lokalnie ukierunkowane systemy
Krytyka „maszyny-boga” łączy się u Gebru z inną wizją rozwoju AI. Zamiast jednego wielkiego modelu przeznaczonego do wszystkiego popiera ona systemy mniejsze, skoncentrowane na konkretnym problemie i tworzone z udziałem społeczności, której mają służyć.
Jako przykład wskazuje Te Hiku Media i prace nad rozpoznawaniem mowy w języku maoryskim. Punktem wyjścia nie jest tu abstrakcyjny wyścig po największy model, lecz określona potrzeba językowa i społeczna. Taki model rozwoju może ułatwiać rozliczanie twórców oraz dopasowanie narzędzia do lokalnego kontekstu.
To nadal jest stanowisko Gebru, a nie uniwersalna reguła mówiąca, że każdy mniejszy system będzie lepszy od ogólnego modelu. Jego wartość polega na zmianie pytania: nie „jak zbudować jedną AI do wszystkiego?”, lecz „jaki konkretny problem rozwiązujemy i kto powinien mieć wpływ na sposób jego rozwiązania?”.
Dwie skale tego samego sporu
Najuczciwszy wniosek jest dwutorowy. Obecne szkody związane z AI dotyczą konkretnych wdrożeń, instytucji i ludzi, więc można wskazywać odpowiedzialnych za decyzje oraz domagać się lepszych zabezpieczeń. Scenariusze zagłady wynikającej z niedopasowania celów pozostają natomiast warunkowe i sporne.
Timnit Gebru przypomina, że fascynacja przyszłą superinteligencją nie powinna zwalniać firm ani instytucji z rozliczania skutków działań podejmowanych już teraz. W debacie o AI warto więc patrzeć jednocześnie w dwóch kierunkach: na odległe możliwości systemów oraz na ludzi, którzy dziś je projektują, zatwierdzają i oddają do użytku.
