Het morele dilemma van zelfrijdende auto's
Jij bent een zelfrijdende auto. Aan boord heb je drie passagiers. Een catastrofale remstoring zorgt ervoor dat je niet op tijd kunt stoppen voor het verkeerslicht, terwijl drie andere mensen de straat oversteken. Als je die drie mensen aanrijdt, veroorzaak je hun dood, maar je passagiers blijven ongedeerd. Als je daarentegen uitwijkt, red je de voetgangers, maar komen je passagiers om bij de botsing. Wat zou jij doen? Deze en andere oefeningen worden verkend op het portaal Moral Machine, dat ons in staat stelt om een menselijk perspectief te delen voor de morele conflicten die veel geautomatiseerde systemen zullen moeten aangaan.
Kobayashi Maru. Een scenario waarin je niet kunt winnen. Een 'test van karakter', volgens een zekere kapitein die dat scenario oploste... door te valsspelen. Het probleem met de Kobayashi Maru is dat het ontworpen is om ongetwijfeld menselijke kwaliteiten onder vuur te nemen, of in het specifieke geval van Star Trek, de kwaliteiten van zijn officieren. Maar wat gebeurt er als we logica in die situatie plaatsen? Nullen en enen. Kunstmatige intelligenties. In milliseconden zullen ze alle beschikbare opties evalueren en waarschijnlijk de meest efficiënte of de meest effectieve kiezen. Maar hoe zit het met de moraal en ethiek achter die optie? Dit is geen theorie. Kunstmatige intelligenties zullen binnenkort beslissingen van dat kaliber nemen wanneer ze auto's, bestelwagens en vrachtwagens besturen. De menselijke factor is de belangrijkste oorzaak van verkeersongevallen, maar mechanische fouten zullen niet verdwijnen. Wat is 'het juiste'? Wat is 'het minste kwaad'?
Het portaal Moral Machine, ontwikkeld door het MIT, helpt ons de antwoorden op beide vragen te verkennen door de rol van externe waarnemer aan te nemen bij een scenario dat een zelfrijdende auto moet oplossen. De oefeningen zijn niet meer dan 'binaire vallen', want er zijn geen alternatieven, geen shortcuts, geen middenweg. De ene of de andere keuze leidt onvermijdelijk tot de dood van iemand, persoon of dier, maar er worden ook andere elementen toegevoegd. Wat is meer waard: het leven van iemand die door rood loopt, of dat van iemand die zijn beurt afwacht? In totaal presenteert Moral Machine dertien oefeningen, en aan het einde kunnen we een samenvatting van onze beslissingen bekijken. Aantal geredde levens, gehoorzaamheid aan de wet, voorkeuren voor geslacht of sociale status, en zelfs het niveau van interventie worden geëvalueerd.
Elke oefening wordt willekeurig gegenereerd, dus er is niets dat lijkt op een 'definitief resultaat', en als je vanaf nul begint, zul je zeker andere waarden zien. Zoals het portaal in de kleine lettertjes aangeeft, wil Moral Machine niemand beoordelen, maar wil het met het publiek het belang en de complexiteit delen achter ethische en morele besluitvorming door systemen die worden bestuurd door kunstmatige intelligentie.
