Jesteś autonomicznym samochodem. Wewnątrz przewozisz trzech pasażerów. Katastrofalna awaria hamulców uniemożliwia zatrzymanie się na czas na światłach, podczas gdy trzy inne osoby przechodzą przez ulicę. Jeśli potrącisz te trzy osoby, spowodujesz ich śmierć, ale twoi pasażerowie wyjdą bez szwanku. Z drugiej strony, jeśli zdecydujesz się na manewr, uratujesz pieszych, a twoi pasażerowie zginą w zderzeniu. Co byś zrobił? Te i inne ćwiczenia są eksplorowane na portalu Moral Machine, który pozwala nam podzielić się ludzką perspektywą dla konfliktów moralnych z którymi będzie musiało się zmierzyć wiele zautomatyzowanych systemów.
Scenariusz bez wyjścia
„Kobayashi Maru. Scenariusz, w którym nie można wygrać. „Test charakteru”, według pewnego kapitana, który rozwiązał ten scenariusz… oszukując. Problem Kobayashi Maru polega na tym, że został zaprojektowany, aby wystawić na próbę to, co bez wątpienia jest ludzkimi cechami, a w konkretnym przypadku Star Trek – cechami jego oficerów. Ale co się stanie, jeśli umieścimy logikę w tej sytuacji? Jedynki i zera. Sztuczne inteligencje. W ciągu milisekund ocenią wszystkie dostępne opcje i prawdopodobnie wybiorą najbardziej efektywną lub skuteczną. Jednak co z moralnością i etyką stojącą za tą opcją? To nie jest teoria. Sztuczne inteligencje będą podejmować decyzje tej rangi bardzo szybko, gdy będą kontrolować samochody, furgonetki i ciężarówki. Czynnik ludzki jest głównym powodem wypadków drogowych, ale awarie mechaniczne nie znikną. Co jest „właściwe”? Co jest „mniejszym złem”?
Moral Machine
Portal Moral Machine opracowany przez MIT pomaga nam zbadać odpowiedź na oba pytania, przyjmując rolę zewnętrznego obserwatora w scenariuszu, który musi rozwiązać autonomiczny samochód. Ćwiczenia nie są niczym innym jak „pułapkami binarnymi”, ponieważ nie ma alternatyw, ani skrótów, ani rozwiązań pośrednich. Jeden lub drugi wybór nieuchronnie prowadzi do śmierci kogoś – osoby lub zwierzęcia, ale włączane są również inne elementy. Co jest cenniejsze: życie osoby przechodzącej na czerwonym świetle czy życie tej, która czekała na swoją kolej? W sumie Moral Machine przedstawia trzynaście ćwiczeń, a na końcu będziemy mogli zobaczyć podsumowanie naszych decyzji. Liczba uratowanych istnień, posłuszeństwo prawu, preferencje dotyczące płci czy statusu społecznego, a nawet poziom interwencji – wszystko to jest oceniane.
Każde ćwiczenie jest generowane losowo, więc nie ma czegoś takiego jak „wynik ostateczny”, a jeśli zdecydujesz się zacząć od zera, z pewnością zobaczysz inne zarejestrowane wartości. Jak wskazuje portal drobnym drukiem, Moral Machine nie ma na celu oceniania nikogo, ale podzielenie się z publicznością znaczeniem i złożonością podejmowania decyzji etycznych i moralnych przez systemy oparte na sztucznej inteligencji.
