Moลพda ste na druลกtvenim mreลพama veฤ uoฤili slike pape Franje kako ลกeฤe u trendi bijeloj puffer jakni, ali moลพda niste primijetili da ih je stvorio AI alat Midjourney.
Fotografija pape Franje, poglavara Katoliฤke crkve, u velikoj bijeloj puffer jakni preplavila je druลกtvene mreลพe posljednjih nekoliko dana. 86-godiลกnji papa na fotografiji izgleda elegantno, a mnogi su komentirali njegovu modernu odjeฤu. Postoji samo jedan problem โ fotografija nije stvarna!
Gornje fotografije generirala je umjetna inteligencija Midjourney, koja proizvodi slike na temelju tekstualnih upita, a na Reddit ih je 24. oลพujka objavio umjetnik pod imenom u/trippy_art_special. Korisniฤki raฤun je u meฤuvremenu suspendiran, ali jedna slika (lijeva) se od tada proลกirila Twitterom, gdje je mnoge zavarala, prenosi Newscientist.
Trebamo li biti zabrinuti?
Ryan Broderick, struฤnjak za web kulturu, nazvao je fotografiju pape โprvim stvarnim sluฤajem masovne dezinformacije umjetne inteligencijeโ. Ali problem se veฤ javlja nekoliko tjedana, nakon aลพuriranja Midjourneyja koje je znaฤajno poboljลกalo njegove moguฤnosti. Neลกto ranije u oลพujku, Midjourney je kreirao fotografije uhiฤenja bivลกeg ameriฤkog predsjednika Donalda Trumpa, koje su takoฤer postale viralne. Te su fotografije generirane prema uputama koje je dao Eliot Higgins, osnivaฤ Bellingcata, novinske istraลพivaฤke skupine.
โMislim da je ovo primjer velikog problema tehnologija koje su pogurnute u naลกe druลกtvo bez ikakvog nadzora, propisa ili standardaโ, izjavila je Elinor Carmi sa Sveuฤiliลกta u Londonu.
Strah od krivotvorina koje je proizvela umjetna inteligencija nije novitet. Veฤ nekoliko godina suoฤavamo se s prijetnjom โdeepfakeโ fotografija lica ljudi, koje su proizvele ranije generacije umjetne inteligencije uvjeลพbane na manjim koliฤinama informacija. Naravno, iz tog razloga, one su ฤesto davale jasne znakove da je rijeฤ o laลพnjacima kroz loลกe treptanje oฤima neprirodno ljudima ili zamagljene uลกi. Midjourney se i dalje bori s rukama, ฤesto dodajuฤi dodatne prste, ali kada se suoฤi s fotografijom na kojoj ruke nisu u fokusu, kao ลกto je AI generirana fotografija Pape, ljudi se lako mogu prevariti.
To je problem velikih razmjera, tvrdi Agnes Venema sa Sveuฤiliลกta na Malti. Subreddit r/midjourney gdje su objavljene Papine slike, prepun je drugih, jednako uvjerljivih slika koje je generirala umjetna inteligencija i koje je proizvelo 143 000 njegovih ฤlanova, ukljuฤujuฤi seriju fotografija koje dokumentiraju izmiลกljeni potres koji je pogodio SAD i Kanadu 2001. godine. Komentar objave s najviลกe glasova glasi: โLjudi ฤe 2025. godine imati velikih problema s dezinformacijama, a ljudi 2100. godine neฤe uopฤe znati koji su dijelovi povijesti bili stvarniโฆโ
โMislim da ฤinjenica da mu toliko ljudi ima pristup je u jednu ruku demokratska, ali znaฤi i da su se na neki naฤin โotvorile braneโ. ล to su realistiฤniji rezultati i ลกto viลกe ljudi dobije pristup alatu, to bismo trebali biti oprezniji jer je veฤi rizik da netko djeluje u svrhu obmane.โ, naglasila je Venema.
U konaฤnici, brzi razvoj umjetne inteligencije znaฤi da su neki problemi neizbjeลพni. Carmi tvrdi da se od nas oฤekuje da se ukljuฤimo u revoluciju umjetne inteligencije, a da u potpunosti ne shvatimo njezin uฤinak, ลกto znaฤi da nam je potrebna bolja medijska pismenost o tome koliko je lako stvarati i ลกiriti laลพne fotografije.
โVeฤi dio naลกeg druลกtva je zaostao i ne shvaฤa kako te tehnologije funkcioniraju, za koje svrhe i koje su posljedice togaโ, zakljuฤila je Carmi.