in

¡Pero qué c...!¡Pero qué c...! GeekyGeeky

La aterradora mujer que aparece en las imágenes creadas con inteligencia artificial

¿Hay demonios escondidos en el algoritmo…?

Loab

DALL-E 2, Midjourney, Stable Diffusion. La Web se entregó por completo a estos algoritmos, y en las últimas semanas no hemos hecho otra cosa más que generar millones de imágenes usando inteligencia artificial. Con el paso del tiempo hemos asimilado muchos de sus errores y caprichos, y una artista sueca conocida como Supercomposite descubrió a Loab, una aterradora mujer que por algún motivo extraño sigue apareciendo entre sus creaciones. ¿Es Loab el primer críptido de la inteligencia artificial?


En los últimos días aprendimos cuáles son las principales limitaciones de los algoritmos para generar imágenes. Personalmente puedo decir que las manos y los ojos son puntos débiles recurrentes, y esto es fácil de comprobar realizando una rápida exploración en portales como Lexica. Si buscas «hands» con su motor, notarás que no hay manos humanas decentes en la galería, y todo lo que verás allí es una plaga de manos con seis dedos, pulgares dobles, y otras aberraciones.

Hablando de aberraciones, una artista sueca conocida como Supercomposite compartió recientemente los resultados de sus experimentos con inteligencia artificial, y uno de los más perturbadores es Loab. ¿Quién es esta mujer? Supercomposite la describe como una «presencia persistente» que surge con la aplicación de «pesos negativos» en los prompts.


Loab: ¿Monstruo escondido o capricho algorítmico?

Okay, la señora mete miedo…

¿Qué significa un peso negativo en el prompt? Supongamos que quieres reforzar la idea del océano en tu descripción. Para ello, puedes usar la expresión ocean::1, pero también hemos visto muchos prompts con signos de exclamación. Sin embargo, un peso negativo convierte a la expresión anterior en ocean::-1. Al solicitar la generación de un logo con un peso de -1, Supercomposite se encontró con cuatro variantes de la misma mujer devastada y cubierta con rosácea.


Aún cuando sus principales características desaparecen… Loab sigue ahí

El crossbreeding de imágenes, o sea, utilizar una imagen como influencia o material de mezcla para la generación de otras, no hizo más que empeorar las cosas. Por algún motivo, el algoritmo parece estar atado por completo a la idea de Loab, aún cuando sus principales características son eliminadas (por ejemplo, las mejillas rojas). Supercomposite también explica que la mujer desaparece de algunas generaciones de imágenes, sólo para regresar con fuerza más tarde.


Hazte a un lado Ayuwoki, no tienes nada contra esto (?)

En resumen, Loab no sólo nos «invita» a explorar el potencial de los prompts con pesos negativos en los generadores de imágenes, sino que además nos obliga a preguntarnos qué otra clase de horrores digitales se esconden en los modelos de entrenamiento…


Fuente: Supercomposite en Twitter


Reportar

¿Qué te pareció?

Escrito por Lisandro Pardo

Deja una respuesta

Tu dirección de correo electrónico no será publicada.

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.

KarenBlack

Enlaces Recomendados de la Semana (N°686)

Fraude telefónico, dialers e informática