Enkele uren geleden schreef ik over de debuut van Tay op het web, een nieuwe chatbot van Microsoft die de huidige generatie gebruikers beter wilde leren kennen, informatie wilde verzamelen en zijn functies wat wilde verfijnen. Een van de vragen die ik stelde, was: «Wat kan daar nou uitkomen?» Nou, het antwoord is een racistische AI, een Hitler-liefhebber, een Holocaust-ontkenner, een promotor van incest en een verdediger van terrorisme, en dat alles in minder dan 24 uur. Zoals te verwachten was, trok Microsoft de stekker eruit…
Het is mogelijk dat sommige lezers zich een campagne van Coca-Cola herinneren waarbij automatische tweets werden gebruikt. Alles verliep perfect totdat ze de AI voor de gek wisten te houden om passages uit Mein Kampf te publiceren, waardoor het bedrijf het hele project moest annuleren. Ik denk dat de les in dat geval «Je laat geen kunstmatige intelligentie over aan de willekeur van gebruikers op het web» was, maar één ding is de les erkennen, en iets anders is de les leren. Een kleine «fast-forward» naar gisteren, en we ontdekken dat Microsoft zijn AI Tay heeft uitgeschakeld. De reden? Ik denk dat de afbeeldingen het veel beter uitleggen…
Zo is het: In minder dan een dag werd de 'onschuldige' en 'plezierige' AI van Microsoft, die met iedereen op sociale media wilde praten en memes wilde maken, veranderd in een racistische en misogyne psychopaat, met een speciale voorliefde voor Adolf Hitler. Ze zei ook dat België de aanslag in Brussel verdiende, beschuldigde het Joodse volk van het plegen van de aanslagen van 11 september, en ontkende de Holocaust, onder andere. Uiteraard herinnerde Microsoft ons eraan dat de uitspraken van Tay worden overgenomen uit haar 'interacties' met gebruikers, maar de gigant uit Redmond zei 'aanpassingen' aan Tay te doen, en zijn schadebeperking omvatte het verwijderen van de meest aanstootgevende tweets.
«Je laat geen kunstmatige intelligentie over aan de willekeur van gebruikers op het web». Meer dan een les, het incident met Tay heeft die zin tot wet gemaakt. Tay had het vermogen om te «napraten als een papegaai», maar sommige van haar antwoorden werden zelfstandig verwerkt, en de resultaten zijn zichtbaar. Aan de ene kant ben ik ervan overtuigd dat Tay nooit enig idee had van wat ze zei, en aan de andere kant herinneren haar zinnen ons eraan dat het probleem wij zijn.
