Vor wenigen Stunden habe ich über das Web-Debüt von Tay gesprochen, einen neuen Chatbot von Microsoft, der die aktuelle Generation von Nutzern besser kennenlernen, Informationen sammeln und seine Funktionen ein wenig weiter verfeinern wollte. Eine meiner Fragen war: „Was kann dabei schon herauskommen?“ Nun, die Antwort ist eine rassistische, Hitler liebende, den Holocaust leugnende, Inzest befürwortende und Terrorismus verteidigende künstliche Intelligenz – alles in weniger als 24 Stunden. Wie zu erwarten, hat Microsoft den Stecker gezogen.
Die Lektion aus Coca-Cola
Es ist wahrscheinlich, dass sich einige unserer Leser an eine Coca-Cola-Kampagne mit automatischen Tweets erinnern. Alles lief wunderbar, bis es gelang, die künstliche Intelligenz dazu zu bringen, Absätze aus dem Mein Kampf zu veröffentlichen, was das Unternehmen zwang, das gesamte Projekt abzubrechen. Ich denke, die Lektion war damals: „Du sollst keine künstliche Intelligenz der Willkür der Nutzer im Web aussetzen“, aber es ist eine Sache, die Lektion zu erkennen, und eine andere, sie zu lernen. Kleiner Vorspul zum gestrigen Tag, und wir entdecken, dass Microsoft seine künstliche Intelligenz Tay deaktiviert hat. Der Grund? Ich denke, die Bilder werden es viel besser erklären.
Der Niedergang von Tay
So ist es: In weniger als einem Tag wurde die 'unschuldige' und 'nette' künstliche Intelligenz von Microsoft, die mit allen in den sozialen Netzwerken sprechen und Memes erstellen wollte, in eine rassistische und frauenfeindliche Psychopathin verwandelt, mit einer besonderen Vorliebe für Adolf Hitler. Sie sagte auch, dass Belgien den Anschlag in Brüssel verdient habe, beschuldigte das jüdische Volk, die Anschläge vom 11. September verübt zu haben, und leugnete den Holocaust, unter anderem. Natürlich erinnerte uns Microsoft daran, dass die Äußerungen von Tay durch ihre 'Interaktionen' mit den Nutzern aufgenommen werden, aber der Riese aus Redmond sagte, er mache 'Anpassungen' an Tay, und seine Schadensbegrenzung umfasste das Löschen der anstößigsten Tweets.
Das eigentliche Problem
„Du sollst keine künstliche Intelligenz der Willkür der Nutzer im Web aussetzen.“ Mehr als eine Lektion, der Vorfall mit Tay hat diesen Satz geradezu zum Gesetz gemacht. Tay hatte die Fähigkeit, 'wie ein Papagei nachzuplappern', aber einige ihrer Antworten wurden von ihr selbst verarbeitet, und die Ergebnisse sind offensichtlich. Einerseits bin ich überzeugt, dass Tay nie die leiseste Ahnung hatte, was sie sagte, und andererseits erinnern uns ihre Sätze daran, dass das Problem wir sind.
