Timnit Gebru sostiene che il racconto dell’IA capace di provocare l’estinzione dell’umanità possa distogliere l’attenzione da danni già concreti — dalle armi autonome alla discriminazione algoritmica — e dalle persone che decidono come progettare e distribuire questi sistemi. È una critica alle priorità del dibattito, non la dimostrazione che ogni catastrofe futura sia impossibile.
La tesi di Timnit Gebru
Gebru, fondatrice e direttrice esecutiva del Distributed AI Research Institute, contesta l’idea di una singola “macchina-dio” capace di agire come un soggetto autonomo e coerente. Nella sua lettura, parlare soprattutto di superintelligenza e di estinzione rischia di lasciare in secondo piano problemi più vicini: sistemi discriminatori, sfruttamento dei dati, condizioni di lavoro, disinformazione, costi ambientali e impieghi militari.
Il punto non è scegliere tra “nessun rischio” e “fine dell’umanità”. È distinguere tra danni osservabili e scenari futuri costruiti su una catena di ipotesi. Gebru mette al centro la prima categoria; chi studia il rischio di disallineamento — cioè il pericolo che gli obiettivi di un sistema molto capace divergano da quelli umani — considera invece decisiva la seconda.
Dalla “macchina-dio” alla responsabilità umana
Per spiegare la sua posizione, Gebru usa l’esempio di un ponte. Se un ponte crolla, la domanda non è se il ponte fosse cosciente o perché abbia “deciso” di crollare: si cercano i responsabili della progettazione, dei test, delle autorizzazioni e della messa in servizio.
La metafora serve a evitare un errore frequente: trattare l’IA come un attore indipendente e cancellare le decisioni istituzionali che la circondano. Un sistema viene costruito, addestrato, valutato, approvato e impiegato da persone e organizzazioni. Per Gebru, l’analisi deve quindi seguire quella catena di responsabilità invece di concentrarsi soltanto sull’ipotetica volontà di una macchina.
Questo non risolve il problema del controllo dei sistemi futuri, ma chiarisce il terreno della discussione: anche quando si parla di autonomia, restano centrali chi stabilisce gli obiettivi, quali dati vengono usati e dove il sistema viene messo all’opera.
I rischi attuali che Gebru invita a guardare
Gebru indica diversi ambiti in cui l’IA può produrre conseguenze rilevanti già nel presente o in un futuro prevedibile:
- armi autonome e sistemi di uccisione, soprattutto quando entrano nelle operazioni militari;
- impatto climatico, legato alle risorse necessarie per sviluppare e gestire modelli di grandi dimensioni;
- sostituzione o trasformazione del lavoro e sfruttamento delle persone coinvolte nella filiera;
- bias e discriminazione, quando dati e modelli riproducono squilibri sociali;
- disinformazione e dipendenza dagli output automatici, con il rischio di accettare risposte errate perché prodotte da un sistema percepito come autorevole;
- uso improprio in ambito chimico o biologico, indicato come rischio di abuso e non come prova di un evento già accaduto.
Il filo comune è l’accountability: chi trae vantaggio dal sistema deve rispondere anche dei suoi effetti. In questo quadro, la sicurezza non coincide soltanto con l’evitare una futura ribellione delle macchine; comprende anche progettazione, supervisione, trasparenza e limiti d’uso.
Due modi diversi di intendere il rischio dell’IA
Le due prospettive non rispondono esattamente alla stessa domanda. Una guarda alle conseguenze delle scelte attuali; l’altra considera cosa potrebbe accadere se un sistema molto più capace ottenesse obiettivi incompatibili con gli interessi umani.
| Impostazione | Orizzonte temporale | Preoccupazione centrale | Dove si colloca la responsabilità |
| Critica di Timnit Gebru | Presente e futuro prossimo | Danni sociali, ambientali, lavorativi e militari prodotti da sistemi progettati e distribuiti da istituzioni umane | Progettisti, aziende, autorità e soggetti che approvano e impiegano i sistemi |
| Rischio da disallineamento | Futuro condizionale | Un sistema molto capace potrebbe perseguire un obiettivo incompatibile con la sopravvivenza o gli interessi umani | Chi sviluppa il sistema e non risolve i problemi di controllo prima di aumentarne le capacità |
Il secondo scenario non richiede che una macchina “odi” gli esseri umani. L’argomento sostiene che un obiettivo mal definito potrebbe spingere un sistema a conservare il proprio funzionamento, procurarsi risorse o rimuovere ostacoli. È una possibilità discussa nel dibattito sull’allineamento, ma resta condizionale e controversa: le premesse e le probabilità sono oggetto di disaccordo.
Gebru, quindi, non sostiene che l’estinzione causata dall’IA sia stata smentita. Contesta il fatto che debba dominare la gerarchia delle priorità, soprattutto quando esistono problemi attuali che richiedono decisioni e responsabilità immediate.
Cosa significa davvero la stima superiore al 10%
Nel dibattito è stata attribuita a un tecnico di Anthropic una convinzione personale: una probabilità superiore al 10% che l’IA possa uccidere tutta l’umanità entro il decennio successivo. Quel numero non è una previsione scientifica validata né un consenso del settore.
Senza un metodo di calcolo, un modello, una procedura di valutazione o una previsione verificabile, la cifra va letta per quello che è: l’opinione personale attribuita a un singolo tecnico. Può indicare quanto alcuni professionisti considerino grave lo scenario, ma non permette di trasformare un’ipotesi controversa in una misura oggettiva.
È una distinzione essenziale. Un numero preciso su uno scenario incerto può sembrare più solido di quanto sia davvero — il fascino della matematica applicata alla fantascienza, in pratica.
Un’IA più mirata e guidata dalle comunità
L’alternativa proposta da Gebru parte da una domanda semplice: quale problema concreto si vuole risolvere, e per chi? Invece di puntare su un unico modello universale destinato a ogni compito, sostiene sistemi più piccoli, focalizzati e legati alle esigenze delle comunità.
Un esempio citato nel suo ragionamento è Te Hiku Media, che ha sviluppato il riconoscimento vocale per la lingua māori dando priorità alle persone che quella lingua parlano. Il valore dell’esempio non sta nel dimostrare che i sistemi piccoli siano sempre migliori, ma nel mostrare un diverso ordine delle decisioni: prima il bisogno locale, poi lo strumento tecnico e il suo eventuale impiego oltre la comunità originaria.
Questa impostazione cambia anche il modo di misurare il successo. Non conta soltanto quanto è grande un modello o quante attività può svolgere; contano l’utilità per il gruppo coinvolto, il controllo sui dati, la possibilità di contestare gli errori e la responsabilità di chi lo gestisce.
Il punto da tenere fermo
Il dibattito contiene due domande legittime, ma non intercambiabili. La prima è come limitare oggi discriminazione, sfruttamento, danni ambientali, disinformazione e uso militare dell’IA. La seconda è come impedire che sistemi futuri, molto più capaci e mal governati, producano conseguenze catastrofiche.
Timnit Gebru chiede di non usare la seconda domanda per rendere invisibile la prima. Il rischio di estinzione resta uno scenario condizionale e discusso; i sistemi attuali, invece, sono il risultato di decisioni umane già prese. Ed è lì che, secondo la sua prospettiva, la responsabilità non può essere delegata a una macchina.
