Die Webwelt hat sich vollständig den Algorithmen zur Bilderzeugung hingegeben: DALL-E 2, Midjourney und Stable Diffusion. In den letzten Wochen haben wir nichts anderes getan, als Millionen von Bildern mit künstlicher Intelligenz zu generieren. Mit der Zeit haben wir viele ihrer Fehler und Eigenheiten akzeptiert, und eine schwedische Künstlerin namens Supercomposite entdeckte Loab, eine furchterregende Frau, die aus irgendeinem seltsamen Grund weiterhin in ihren Kreationen auftaucht. Ist Loab der erste Kryptid der künstlichen Intelligenz?
Grenzen der KI-Bildgenerierung
In den letzten Tagen haben wir die wichtigsten Einschränkungen der Algorithmen zur Bilderzeugung kennengelernt. Persönlich kann ich sagen, dass Hände und Augen wiederkehrende Schwachstellen sind, und das lässt sich leicht überprüfen, wenn man Portale wie Lexica durchsucht. Wenn du nach „hands“ suchst, wirst du feststellen, dass es in der Galerie keine anständigen menschlichen Hände gibt – stattdessen findest du eine Plage von Händen mit sechs Fingern, Doppeldaumen und anderen Aberrationen.
Was diese Aberrationen betrifft, so hat die schwedische Künstlerin Supercomposite kürzlich die Ergebnisse ihrer Experimente mit künstlicher Intelligenz geteilt, und eines der verstörendsten ist Loab. Wer ist diese Frau? Supercomposite beschreibt sie als eine „persistente Präsenz“, die bei der Anwendung von „negativen Gewichten“ in den Prompts auftaucht.
Was bedeutet ein negatives Gewicht im Prompt?
Was bedeutet ein negatives Gewicht im Prompt? Angenommen, du möchtest die Idee des Ozeans in deiner Beschreibung verstärken. Dazu kannst du den Ausdruck ocean::1 verwenden, aber wir haben auch viele Prompts mit Ausrufezeichen gesehen. Ein negatives Gewicht verwandelt den vorherigen Ausdruck jedoch in ocean::-1. Als Supercomposite die Generierung eines Logos mit einem Gewicht von -1 anforderte, stieß sie auf vier Varianten von derselben zerstörten Frau mit Rosacea.
Das Crossbreeding von Bildern, also die Verwendung eines Bildes als Einfluss oder Mischmaterial für die Erzeugung anderer Bilder, machte die Sache nur noch schlimmer. Aus irgendeinem Grund scheint der Algorithmus völlig an die Idee von Loab gebunden zu sein, selbst wenn ihre Hauptmerkmale entfernt werden (zum Beispiel die roten Wangen). Supercomposite erklärt auch, dass die Frau in einigen Bildgenerationen verschwindet, nur um später mit voller Wucht zurückzukehren.
Zusammenfassend lässt sich sagen, dass Loab uns nicht nur dazu „einlädt“, das Potenzial von Prompts mit negativen Gewichten in Bildgeneratoren zu erkunden, sondern uns auch dazu zwingt, uns zu fragen, welche anderen Arten von digitalen Schrecken in den Trainingsmodellen lauern ...
Quelle: Supercomposite auf Twitter
