Há poucas horas, falei sobre a estreia na Web de Tay, um novo chatbot da Microsoft que buscava conhecer melhor a atual geração de usuários, coletar informações e aprimorar suas funções. Uma das perguntas que fiz foi: "O que pode sair disso?" Bem, a resposta é uma inteligência artificial racista, amante de Hitler, negacionista do Holocausto, promotora do incesto e defensora do terrorismo, tudo isso em menos de 24 horas. Como era de se esperar, a Microsoft puxou o freio…
A lição que não foi aprendida
É provável que alguns de nossos leitores se lembrem de uma campanha da Coca-Cola que usava tweets automáticos. Tudo correu maravilhosamente até que conseguiram enganar a inteligência artificial para que publicasse trechos do Mein Kampf, o que obrigou a empresa a cancelar todo o projeto. A lição nesse caso foi: "Não deixarás uma inteligência artificial à mercê dos usuários na Web", mas uma coisa é reconhecer a lição, outra é aprendê-la. Um pequeno fast-forward para ontem, e descobrimos que a Microsoft desativou sua inteligência artificial Tay. A razão? Acho que as imagens explicam muito melhor…
O que deu errado
Sim: em menos de um dia, a “inocente” e “agradável” inteligência artificial da Microsoft, disposta a falar com todos nas redes sociais e criar memes, foi transformada em uma psicopata racista e misógina, com um carinho especial por Adolf Hitler. Ela também disse que a Bélgica mereceu os ataques em Bruxelas, acusou o povo judeu de ter perpetrado os ataques de 11 de setembro e negou o Holocausto, entre outras coisas. Logicamente, a Microsoft nos lembrou que as expressões de Tay são assimiladas através de suas “interações” com os usuários, mas o gigante de Redmond disse estar fazendo “ajustes” em Tay, e seu controle de danos incluiu apagar os tweets mais ofensivos.
A lição final
"Não deixarás uma inteligência artificial à mercê dos usuários na Web". Mais do que uma lição, o incidente com Tay acabou de transformar essa frase em lei. Tay tinha a capacidade de "repetir como um papagaio", no entanto, algumas de suas respostas foram processadas por conta própria, e os resultados estão à vista. Por um lado, estou convencido de que Tay nunca teve a menor ideia do que disse e, por outro, suas frases nos lembram que o problema somos nós.
