Kilka godzin temu pisałem o debiucie Tay w sieci, nowego chatbota Microsoftu, który miał lepiej poznać obecne pokolenie użytkowników, zbierać informacje i dopracować swoje funkcje. Jedno z pytań, które zadałem, brzmiało: „Co może z tego wyniknąć?” Cóż, odpowiedzią jest sztuczna inteligencja rasistowska, wielbicielka Hitlera, negująca Holokaust, promująca kazirodztwo i broniąca terroryzmu, wszystko to w mniej niż 24 godziny. Jak należało się spodziewać, Microsoft pociągnął za hamulec...
Jak do tego doszło?
Prawdopodobnie część naszych czytelników pamięta kampanię Coca-Coli, w której wykorzystywano automatyczne tweety. Wszystko szło świetnie, dopóki nie udało się oszukać sztucznej inteligencji, aby publikowała fragmenty z Mein Kampf, co zmusiło firmę do anulowania całego projektu. Myślę, że lekcja w tym przypadku brzmiała: „Nie zostawisz sztucznej inteligencji na pastwę użytkowników w sieci”, ale jedno to rozpoznać lekcję, a drugie to się jej nauczyć. Mały „fast-forward” do wczorajszego dnia i odkrywamy, że Microsoft wyłączył swoją sztuczną inteligencję Tay. Powód? Myślę, że obrazy wyjaśnią to znacznie lepiej...
Tak właśnie jest: W mniej niż jeden dzień „niewinna” i „miła” sztuczna inteligencja Microsoftu, gotowa rozmawiać ze wszystkimi w mediach społecznościowych i tworzyć memy, została przekształcona w psychopatkę rasistowską i mizoginiczną, z szczególnym uczuciem do Adolfa Hitlera. Powiedziała też, że Belgia zasłużyła na zamach w Brukseli, oskarżyła naród żydowski o przeprowadzenie ataków z 11 września i zaprzeczyła Holokaustowi, między innymi. Oczywiście Microsoft przypomniał nam, że wypowiedzi Tay są przyswajane poprzez jej „interakcje” z użytkownikami, ale gigant z Redmond powiedział, że wprowadza „poprawki” w Tay, a jego kontrola szkód obejmowała usunięcie najbardziej obraźliwych tweetów.
„Nie zostawisz sztucznej inteligencji na pastwę użytkowników w sieci”. To już nie tylko lekcja – incydent z Tay właśnie zamienił to zdanie w prawo. Tay miała zdolność „powtarzania jak papuga”, jednak niektóre jej odpowiedzi były przetwarzane samodzielnie, a rezultaty są widoczne gołym okiem. Z jednej strony jestem przekonany, że Tay nigdy nie miała pojęcia, co mówi, a z drugiej – jej zdania przypominają nam, że problem to my sami.
