Možda ste na društvenim mrežama već uočili slike pape Franje kako šeće u trendi bijeloj puffer jakni, ali možda niste primijetili da ih je stvorio AI alat Midjourney.
Fotografija pape Franje, poglavara Katoličke crkve, u velikoj bijeloj puffer jakni preplavila je društvene mreže posljednjih nekoliko dana. 86-godišnji papa na fotografiji izgleda elegantno, a mnogi su komentirali njegovu modernu odjeću. Postoji samo jedan problem – fotografija nije stvarna!
Gornje fotografije generirala je umjetna inteligencija Midjourney, koja proizvodi slike na temelju tekstualnih upita, a na Reddit ih je 24. ožujka objavio umjetnik pod imenom u/trippy_art_special. Korisnički račun je u međuvremenu suspendiran, ali jedna slika (lijeva) se od tada proširila Twitterom, gdje je mnoge zavarala, prenosi Newscientist.
Trebamo li biti zabrinuti?
Ryan Broderick, stručnjak za web kulturu, nazvao je fotografiju pape “prvim stvarnim slučajem masovne dezinformacije umjetne inteligencije”. Ali problem se već javlja nekoliko tjedana, nakon ažuriranja Midjourneyja koje je značajno poboljšalo njegove mogućnosti. Nešto ranije u ožujku, Midjourney je kreirao fotografije uhićenja bivšeg američkog predsjednika Donalda Trumpa, koje su također postale viralne. Te su fotografije generirane prema uputama koje je dao Eliot Higgins, osnivač Bellingcata, novinske istraživačke skupine.
“Mislim da je ovo primjer velikog problema tehnologija koje su pogurnute u naše društvo bez ikakvog nadzora, propisa ili standarda”, izjavila je Elinor Carmi sa Sveučilišta u Londonu.
Strah od krivotvorina koje je proizvela umjetna inteligencija nije novitet. Već nekoliko godina suočavamo se s prijetnjom “deepfake” fotografija lica ljudi, koje su proizvele ranije generacije umjetne inteligencije uvježbane na manjim količinama informacija. Naravno, iz tog razloga, one su često davale jasne znakove da je riječ o lažnjacima kroz loše treptanje očima neprirodno ljudima ili zamagljene uši. Midjourney se i dalje bori s rukama, često dodajući dodatne prste, ali kada se suoči s fotografijom na kojoj ruke nisu u fokusu, kao što je AI generirana fotografija Pape, ljudi se lako mogu prevariti.
To je problem velikih razmjera, tvrdi Agnes Venema sa Sveučilišta na Malti. Subreddit r/midjourney gdje su objavljene Papine slike, prepun je drugih, jednako uvjerljivih slika koje je generirala umjetna inteligencija i koje je proizvelo 143 000 njegovih članova, uključujući seriju fotografija koje dokumentiraju izmišljeni potres koji je pogodio SAD i Kanadu 2001. godine. Komentar objave s najviše glasova glasi: “Ljudi će 2025. godine imati velikih problema s dezinformacijama, a ljudi 2100. godine neće uopće znati koji su dijelovi povijesti bili stvarni…”
“Mislim da činjenica da mu toliko ljudi ima pristup je u jednu ruku demokratska, ali znači i da su se na neki način “otvorile brane”. Što su realističniji rezultati i što više ljudi dobije pristup alatu, to bismo trebali biti oprezniji jer je veći rizik da netko djeluje u svrhu obmane.”, naglasila je Venema.
U konačnici, brzi razvoj umjetne inteligencije znači da su neki problemi neizbježni. Carmi tvrdi da se od nas očekuje da se uključimo u revoluciju umjetne inteligencije, a da u potpunosti ne shvatimo njezin učinak, što znači da nam je potrebna bolja medijska pismenost o tome koliko je lako stvarati i širiti lažne fotografije.
“Veći dio našeg društva je zaostao i ne shvaća kako te tehnologije funkcioniraju, za koje svrhe i koje su posljedice toga”, zaključila je Carmi.
