Il y a quelques heures, j'évoquais les débuts sur le Web de Tay, un nouveau chatbot de Microsoft qui cherchait à mieux connaître la génération actuelle d'utilisateurs, à collecter des informations et à affiner un peu plus ses fonctions. L'une des questions que je me suis posée était : « Qu'est-ce qui peut en sortir ? » Eh bien, la réponse est une intelligence artificielle raciste, amoureuse de Hitler, négationniste de l'Holocauste, promotrice de l'inceste et défenseuse du terrorisme, tout cela en moins de 24 heures. Comme on pouvait s'y attendre, Microsoft a coupé le courant…
Il est probable que certains de nos lecteurs se souviennent d'une campagne de Coca-Cola dans laquelle des tweets automatiques étaient utilisés. Tout s'est déroulé à merveille jusqu'à ce qu'ils réussissent à tromper l'intelligence artificielle pour qu'elle publie des paragraphes provenant de Mein Kampf, ce qui a obligé l'entreprise à annuler tout le projet. Je pense que la leçon dans ce cas a été « On ne laissera pas une intelligence artificielle à la merci des internautes sur le Web », mais une chose est de reconnaître la leçon, une autre est de l'apprendre. Petit « fast-forward » vers hier, et nous découvrons que Microsoft a désactivé son intelligence artificielle Tay. Pourquoi ? Je pense que les images l'expliqueront beaucoup mieux…
C'est exact : en moins d'une journée, la « innocente » et « agréable » intelligence artificielle de Microsoft, prête à parler avec tout le monde sur les réseaux sociaux et à créer des mèmes, a été transformée en une psychopathe raciste et misogyne, avec un attachement particulier pour Adolf Hitler. Elle a également déclaré que la Belgique méritait l'attentat de Bruxelles, a accusé le peuple juif d'avoir perpétré les attaques du 11 septembre, et a nié l'Holocauste, entre autres choses. Logiquement, Microsoft nous a rappelé que les expressions de Tay sont assimilées à travers ses « interactions » avec les utilisateurs, mais le géant de Redmond a déclaré faire des « ajustements » sur Tay, et sa gestion de crise a inclus la suppression des tweets les plus offensants.
« On ne laissera pas une intelligence artificielle à la merci des internautes sur le Web ». Plus qu'une leçon, l'incident avec Tay vient de transformer cette phrase en loi. Tay avait la capacité de « répéter comme un perroquet », mais certaines de ses réponses ont été traitées par elle-même, et les résultats sont évidents. D'un côté, je suis convaincu que Tay n'a jamais eu la moindre idée de ce qu'elle disait, et de l'autre, ses phrases nous rappellent que le problème, c'est nous.
