DALL-E 2, Midjourney, Stable Diffusion. Le Web s'est entièrement donné à ces algorithmes, et ces dernières semaines nous n'avons fait que générer des millions d'images en utilisant l'intelligence artificielle. Au fil du temps, nous avons assimilé beaucoup de leurs erreurs et caprices, et une artiste suédoise connue sous le nom de Supercomposite a découvert Loab, une terrifiante femme qui, pour une raison étrange, continue d'apparaître parmi ses créations. Loab est-elle le premier cryptide de l'intelligence artificielle ?
Ces derniers jours, nous avons appris quelles sont les principales limites des algorithmes de génération d'images. Personnellement, je peux dire que les mains et les yeux sont des points faibles récurrents, et c'est facile à vérifier en effectuant une rapide exploration sur des portails comme Lexica. Si vous cherchez « mains » avec son moteur, vous remarquerez qu'il n'y a pas de mains humaines décentes dans la galerie, et tout ce que vous verrez là est une plaie de mains à six doigts, de pouces doubles, et autres aberrations.
En parlant d'aberrations, une artiste suédoise connue sous le nom de Supercomposite a récemment partagé les résultats de ses expériences avec l'intelligence artificielle, et l'un des plus perturbants est Loab. Qui est cette femme ? Supercomposite la décrit comme une « présence persistante » qui surgit avec l'application de « poids négatifs » dans les prompts.
Loab : monstre caché ou caprice algorithmique ?
Que signifie un poids négatif dans le prompt ? Supposons que vous vouliez renforcer l'idée de l'océan dans votre description. Pour cela, vous pouvez utiliser l'expression ocean::1, mais nous avons aussi vu beaucoup de prompts avec des points d'exclamation. Cependant, un poids négatif convertit l'expression précédente en ocean::-1. En demandant la génération d'un logo avec un poids de -1, Supercomposite s'est retrouvée avec quatre variantes de la même femme dévastée et couverte de rosacée.
Le crossbreeding d'images, c'est-à-dire utiliser une image comme influence ou matériau de mélange pour la génération d'autres, n'a fait qu'empirer les choses. Pour une raison quelconque, l'algorithme semble être entièrement lié à l'idée de Loab, même lorsque ses principales caractéristiques sont éliminées (par exemple, les joues rouges). Supercomposite explique également que la femme disparaît de certaines générations d'images, seulement pour revenir en force plus tard.
En résumé, Loab ne nous « invite » pas seulement à explorer le potentiel des prompts à poids négatifs dans les générateurs d'images, mais elle nous oblige aussi à nous demander quelle autre sorte d'horreurs numériques se cachent dans les modèles d'entraînement…
Source : Supercomposite sur Twitter
