Pratite nas

Pozdrav, koji sadržaj vas zanima?

Umjetna inteligencija

Marc Benioff upozorava na potencijalne rizike u razvoju umjetne inteligencije: “Ne želimo ‘Hirošimu’ tehnologije”

Marc Benioff upozorava na potencijalne rizike u razvoju umjetne inteligencije: "Ne želimo 'Hirošimu' tehnologije"
Shutterstock

Fareed Zakaria, ugledni novinar i komentator CNN-a, postavio je tijekom panel diskusije na Svjetskom ekonomskom forumu u Davosu provokativno, no fundamentalno pitanje Samu Altmanu, predsjedniku OpenAI-a: ‘Koja je osnovna kompetencija ljudskih bića?’ Ovo jednostavno pitanje usmjerilo je sat vremena dugi razgovor o budućnosti tehnologije prema njegovoj biti. U doba kada se svijet natječe u razvoju prve umjetne opće inteligencije, Zakaria je istraživao što to još uvijek izdvaja čovječanstvo u situaciji kada se pojavi stroj koji u svakom aspektu nadmašuje ljudsku inteligenciju.

Tijekom ovog važnog događaja, jedan od panela na kojem je sudjelovao Altman, ponudio je uvjerljiv odgovor na Zakarijevo pitanje. ‘Moram priznati, ovaj trenutak se čini posve drugačijim od svega što smo do sada iskusili. Koncept kognicije opće namjene izgleda toliko sličan onome što smatramo vrijednim u čovječanstvu da ga ne možemo olako shvatiti’, priznao je Altman, čelnik kompanije koja stoji iza revolucionarnog ChatGPT-a, prije nego što je nastavio sa svojim predviđanjem.

Altman je istaknuo: ‘Mi, ljudi, bit ćemo ti koji će donositi odluke o budućim događanjima u svijetu.’ Ova izjava nije bila samo odraz potrebe, na primjer, zato što ljudi ili AGI (Umjetna Opća Inteligencija) zaključuju da je naša prosudba inherentno superiornija, već i zbog toga što ljudi i dalje imaju veću sklonost preuzimanju odgovornosti za svoje postupke, a time i za posljedice svojih odluka, prije nego što te odgovornosti prepuste stroju.

Sam Altman, predsjednik OpenAI-a, istaknuo je tijekom panela na Svjetskom ekonomskom forumu u Davosu zanimljivu perspektivu o odnosu ljudi prema greškama koje čine strojevi u usporedbi s greškama koje čine ljudi. ‘Ljudi su skloni opraštati greške drugim ljudima, ali su izrazito netolerantni prema greškama koje naprave računala’, naglasio je Altman.

Kao ključan primjer naveo je područje autonomne vožnje, ukazujući na općeprihvaćenu činjenicu da ljudi toleriraju greške taksista, dok su prema greškama samovozećih automobila puno stroži. Ova razlika u percepciji ukazuje na duboko ukorijenjenu ljudsku tendenciju da se strojevima postavljaju viši standardi nego ljudima.

Dalje, Altman je sugerirao da ljudi imaju iznimnu sposobnost razumijevanja interesa i potreba drugih ljudi, no čak ni u tom kontekstu nije naišao na potpunu moralnu podršku od drugih istaknutih sudionika panela. Marc Benioff, suosnivač i izvršni direktor Salesforcea, čiji AI Einstein pomaže pokretanju aplikacije korištene od strane posjetitelja WEF-a, dao je još jedan zanimljiv uvid. Benioff je sugerirao da bi u bliskoj budućnosti Davos mogao imati digitalnog moderatora, koji bi mogao postavljati relevantna pitanja publici bez potrebe za ljudskim moderatorom poput Zakarije. ‘Možda ćemo uskoro imati digitalnog moderatora koji će voditi panel diskusije i koji bi mogao obaviti prilično dobar posao, s obzirom na pristup velikom broju informacija koje imamo’, izjavio je Benioff.

Ova ideja nije bez osnova. Već u 2015. godini istraživači su zaključili da su algoritmi strojnog učenja koje koristi Facebook u nekim slučajevima bili bolji u procjenjivanju interesa i sklonosti pojedinca od njegovog vlastitog supružnika, što ukazuje na potencijal i sposobnost umjetne inteligencije da razumije i predviđa ljudske preferencije i ponašanja.

Marc Benioff upozorava na oprez u razvoju umjetne inteligencije

Marc Benioff, suosnivač i CEO Salesforcea, izrazio je oprez u pogledu razvoja generativne umjetne inteligencije. Naglašava da iako tehnologija napreduje, još nije dostigla razinu prave Umjetne Opće Inteligencije (AGI) i stoga je ljudska uloga još uvijek ključna. “AI danas pojačava, a ne zamjenjuje ljude”, rekao je Benioff. Sam Altman, predsjednik OpenAI-a, upozorio je na stres i izazove koji prate napredak u AI-u, te na važnost odgovornog pristupa. Benioff je slikovito izrazio svoju zabrinutost: “Ne želimo da dođe do tragedije poput Hirošime.”

Ostavi komentar

Možda će vas zanimati