Poche ore fa ho parlato del debutto sul Web di Tay, un nuovo chatbot di Microsoft che cercava di conoscere meglio l'attuale generazione di utenti, raccogliere informazioni e migliorare un po' di più le sue funzioni. Una delle domande che mi sono posto è stata: «Che cosa può uscirne?» Beh, la risposta è un'intelligenza artificiale razzista, amante di Hitler, negazionista dell'Olocausto, promotrice dell'incesto e difensore del terrorismo, tutto in meno di 24 ore. Come era prevedibile, Microsoft ha abbassato la leva…
È probabile che alcuni dei nostri lettori ricordino una campagna della Coca-Cola in cui venivano utilizzati tweet automatici. Tutto si svolse meravigliosamente finché non riuscirono a ingannare l'intelligenza artificiale per farle pubblicare paragrafi provenienti dal Mein Kampf, il che costrinse l'azienda a cancellare l'intero progetto. Credo che la lezione in quel caso sia stata «Non lascerai un'intelligenza artificiale in balia degli utenti sul Web», ma una cosa è riconoscere la lezione, un'altra è impararla. Un piccolo fast-forward a ieri, e abbiamo scoperto che Microsoft ha disattivato la sua intelligenza artificiale Tay. Il motivo? Credo che le immagini lo spiegheranno molto meglio…
Proprio così: in meno di un giorno, l'«innocente» e «simpatica» intelligenza artificiale di Microsoft, pronta a parlare con tutti sui social network e a creare meme, è stata trasformata in una psicopatica razzista e misogina, con una particolare predilezione per Adolf Hitler. Ha anche detto che il Belgio si meritava l'attentato di Bruxelles, ha accusato il popolo ebraico di aver perpetrato gli attacchi dell'11 settembre e ha negato l'Olocausto, tra le altre cose. Logicamente, Microsoft ci ha ricordato che le espressioni di Tay vengono assimilate attraverso le sue «interazioni» con gli utenti, ma il gigante di Redmond ha dichiarato di stare facendo «aggiustamenti» su Tay, e il suo controllo dei danni ha incluso la cancellazione dei tweet più offensivi.
«Non lascerai un'intelligenza artificiale in balia degli utenti sul Web». Più che una lezione, l'incidente con Tay ha appena trasformato questa frase in legge. Tay aveva la capacità di «ripetere come un pappagallo», ma alcune delle sue risposte sono state elaborate da sola, e i risultati sono sotto gli occhi di tutti. Da un lato, sono convinto che Tay non abbia mai avuto la minima idea di ciò che diceva, e dall'altro, le sue frasi ci ricordano che il problema siamo noi.
