Konzorcij koji se sastoji od vodećih umova u istraživanju, inženjeringu i poslovanju umjetne inteligencije izdao je ozbiljnu deklaraciju upozorenja u vezi s potencijalnom opasnošću koju umjetna inteligencija predstavlja čovječanstvu.
Objava je bila vrlo kratka, pažljivo kreirana kako bi potaknula široko prihvaćanje, a prenosi sljedeću ideju: “Očuvanje čovječanstva od opasnosti umjetne inteligencije zahtijeva globalni prioritet, uz pandemiju i nuklearne sukobe.”
We just put out a statement:
— Dan Hendrycks (@DanHendrycks) May 30, 2023
“Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war.”
Signatories include Hinton, Bengio, Altman, Hassabis, Song, etc.https://t.co/N9f6hs4bpa
🧵 (1/6)
Deklaraciju je objavila neprofitna organizacija sa sjedištem u San Franciscu, Center for AI Safety, a sama deklaracija ima neke istaknute supotpisnike poput Demisa Hassabisa, izvršnog direktora Google DeepMinda, i Sama Altmana, izvršnog direktora OpenAI-ja. Ona također uključuje i Geoffreyja Hintona i Yoshuu Bengia, poznate istraživače umjetne inteligencije koji su 2018. nagrađeni prestižnom Turingovom nagradom za svoj revolucionarni doprinos. Naime, treći dobitnik Turingove nagrade, Yann LeCun, koji trenutno radi kao glavni znanstvenik za umjetnu inteligenciju u Meti, matičnoj tvrtki Facebooka, nije dodao svoj potpis uz izjavu u vrijeme pisanja ovog teksta.
Izjava predstavlja najnoviju utjecajnu intervenciju u zamršenom i spornom dijalogu koji okružuje sigurnost umjetne inteligencije. Ranije ove godine, ti isti pojedinci podržali su otvoreno pismo koje je zagovaralo privremenu pauzu u napretku umjetne inteligencije. Međutim, pismo je naišlo na kritike na raznim frontama. Neki su stručnjaci vjerovali da preuveličava rizike povezane s umjetnom inteligencijom, dok su se drugi složili sa zabrinutošću, ali se nisu složili s preporučenim rješenjima.
Dan Hendrycks, izvršni direktor Centra za sigurnost umjetne inteligencije (Center for AI Safety), objasnio je za The New York Times da sažetost izjave i namjerno izostavljanje bilo koje specifične strategije za ublažavanje prijetnje umjetne inteligencije, ima za cilj spriječiti takve nesuglasice. Hendrycks je pojasnio: “Namjerno smo izbjegli predstavljanje opsežnog niza od 30 potencijalnih intervencija. Kada se to dogodi, poruka postaje razvodnjena.”
We’ve released a statement on the risk of extinction from AI.
— Center for AI Safety (@ai_risks) May 30, 2023
Signatories include:
– Three Turing Award winners
– Authors of the standard textbooks on AI/DL/RL
– CEOs and Execs from OpenAI, Microsoft, Google, Google DeepMind, Anthropic
– Many morehttps://t.co/mkJWhCRVwB
Hendrycks je ovu poruku nazvao iskorakom u cijeloj industriji za pojedince zabrinute zbog rizika povezanih s umjetnom inteligencijom. Suprotno popularnom mišljenju, naglasio je da mnogi ljudi unutar AI zajednice privatno dijele te zabrinutosti, razbijajući mit da samo nekoliko pojedinaca ima takva stajališta.
Sveobuhvatni okvir ove rasprave može biti poznat, ali zamršeni detalji često se čine beskonačnima, vrteći se oko hipotetskih scenarija u kojima sustavi umjetne inteligencije brzo napreduju u sposobnostima i gube sposobnost sigurnog rada. Brojni stručnjaci navode izvanredan napredak sustava poput velikih jezičnih modela kao dokaz predviđenog budućeg napretka u inteligenciji. Oni tvrde da kada sustavi umjetne inteligencije dostignu određenu razinu sofisticiranosti, kontrola njihovih radnji može postati nemoguća.
Međutim, postoje skeptici koji dovode u pitanje ova predviđanja. Oni ističu trenutnu nesposobnost AI sustava da obavljaju čak i relativno svakodnevne zadatke, kao što je vožnja automobila. Unatoč godinama istraživanja i značajnim ulaganjima u ovo područje, potpuno autonomna vozila i dalje su daleko od stvarnosti. Skeptici tvrde da ako se umjetna inteligencija ne može nositi s ovim konkretnim izazovom, to izaziva sumnju u sposobnost tehnologije da parira svakom drugom ljudskom postignuću u godinama koje dolaze.
U međuvremenu, i zagovornici i skeptici rizika umjetne inteligencije slažu se da čak i u trenutnom stanju sustavi umjetne inteligencije predstavljaju nekoliko prijetnji. Oni se kreću od omogućavanja masovnog nadzora do pojačavanja širenja dezinformacija.
