Sei un'auto a guida autonoma. A bordo ci sono tre passeggeri. Un guasto catastrofico ai freni ti impedisce di fermarti in tempo al semaforo, mentre altre tre persone attraversano la strada. Se investi quelle tre persone, provocherai la loro morte, ma i tuoi passeggeri saranno illesi. Se invece decidi di manovrare, salverai i pedoni, e i tuoi passeggeri moriranno nello schianto. Cosa faresti? Questo e altri esercizi sono esplorati nel portale Moral Machine, che ci permette di condividere una prospettiva umana per i conflitti morali che molti sistemi automatizzati dovranno affrontare.
Dal Kobayashi Maru all'intelligenza artificiale
«Kobayashi Maru». Uno scenario in cui non si può vincere. Una «prova di carattere», secondo un certo capitano che risolse quello scenario barando. Ora, il problema del Kobayashi Maru è che è stato progettato per mettere alla prova quelle che senza dubbio sono qualità umane, o, nel caso specifico di Star Trek, le qualità dei suoi ufficiali. Ma cosa succede se mettiamo la logica in quella situazione? Uni e zeri. Intelligenze artificiali. In pochi millisecondi valuteranno tutte le opzioni disponibili e probabilmente sceglieranno la più efficiente, o la più efficace. E che dire di la moralità e l'etica dietro quella scelta? Non è una teoria. Le intelligenze artificiali prenderanno decisioni di questo calibro molto presto, quando controlleranno auto, furgoni e camion. Il fattore umano è il principale responsabile degli incidenti stradali, ma i guasti meccanici non spariranno. Cosa è «la cosa giusta»? Qual è «il male minore»?
Le «trappole binarie» di Moral Machine
Il portale Moral Machine, sviluppato dal MIT, ci aiuta a esplorare la risposta a queste domande assumendo il ruolo di osservatore esterno davanti a uno scenario che un'auto autonoma deve risolvere. Gli esercizi non smettono di essere «trappole binarie», poiché non ci sono alternative, né scorciatoie, né vie di mezzo. Una o l'altra scelta porta inevitabilmente alla morte di qualcuno, sia esso una persona o un animale, ma si aggiungono anche altri elementi. Cosa vale di più, la vita di una persona che attraversa con il semaforo rosso, o quella di chi ha aspettato il proprio turno? In totale, Moral Machine presenta tredici esercizi, e alla fine possiamo vedere un riepilogo delle nostre decisioni. Numero di vite salvate, obbedienza alla legge, preferenze di genere o status sociale, e persino il livello di intervento vengono valutati.
Un esperimento senza risultati definitivi
Ogni esercizio è generato casualmente, quindi non esiste nulla di simile a un «risultato definitivo», e se decidi di ricominciare da zero, vedrai sicuramente altri valori registrati. Come indica il portale nella sua clausola, Moral Machine non cerca di giudicare nessuno, ma di condividere con il pubblico l'importanza e la complessità dietro la presa di decisioni etiche e morali da parte di sistemi affidati a intelligenze artificiali.
