Przerażająca kobieta, która pojawia się na obrazach generowanych przez sztuczną inteligencję

Internet oddał się całkowicie algorytmom: DALL-E 2, Midjourney, Stable Diffusion. W ostatnich tygodniach nie robimy nic innego, jak tylko generujemy miliony obrazów przy użyciu sztucznej inteligencji. Z czasem poznaliśmy ich błędy i kaprysy, a szwedzka artystka znana jako Supercomposite odkryła Loab – przerażającą kobietę, która z jakiegoś powodu wciąż pojawia się w jej pracach. Czy Loab to pierwszy kryptyd sztucznej inteligencji?

W ostatnich dniach nauczyliśmy się, jakie są główne ograniczenia algorytmów generujących obrazy. Osobiście mogę powiedzieć, że dłonie i oczy to słabe punkty, co łatwo sprawdzić na portalach takich jak Lexica. Jeśli wpiszesz „hands”, zauważysz, że nie ma tam ludzkich dłoni w porządku – tylko plaga sześciopalczastych dłoni, podwójnych kciuków i innych aberracji.

Mówiąc o aberracjach, szwedzka artystka Supercomposite podzieliła się niedawno wynikami swoich eksperymentów ze sztuczną inteligencją, a jednym z najbardziej niepokojących jest Loab. Kim jest ta kobieta? Supercomposite opisuje ją jako „uporczywą obecność”, która pojawia się przy zastosowaniu „negatywnych wag” w promptach.

Loab: ukryty potwór czy kaprys algorytmu?

Co oznacza negatywna waga w promptcie? Załóżmy, że chcesz wzmocnić w opisie motyw oceanu. Możesz użyć wyrażenia ocean::1, ale widzieliśmy też wiele promptów z wykrzyknikami. Jednak negatywna waga zmienia poprzednie wyrażenie na ocean::-1. Prosząc o wygenerowanie logo z wagą -1, Supercomposite natknęła się na cztery warianty tej samej zniszczonej kobiety z trądzikiem różowatym.

Krzyżowanie obrazów, czyli użycie jednego obrazu jako wpływ lub materiału do mieszania przy generowaniu innych, tylko pogarsza sprawę. Z jakiegoś powodu algorytm wydaje się całkowicie związany z ideą Loab, nawet gdy jej główne cechy są usuwane (na przykład czerwone policzki). Supercomposite wyjaśnia również, że kobieta znika z niektórych generacji, tylko po to, by wkrótce wrócić z siłą.

Podsumowując, Loab nie tylko „zaprasza” nas do odkrywania potencjału promptów z negatywnymi wagami w generatorach obrazów, ale także zmusza do zadania pytania: jakie inne cyfrowe horrory kryją się w modelach treningowych...

Źródło: Supercomposite na Twitterze