{"id":21051792,"date":"2023-08-30T10:08:04","date_gmt":"2023-08-30T08:08:04","guid":{"rendered":"https:\/\/geek.hr\/?p=21051792"},"modified":"2023-09-14T17:08:37","modified_gmt":"2023-09-14T15:08:37","slug":"veliki-problem-s-umjetnom-inteligencijom-je-da-voli-izmisljati-cinjenice","status":"publish","type":"post","link":"https:\/\/geek.hr\/clanak\/veliki-problem-s-umjetnom-inteligencijom-je-da-voli-izmisljati-cinjenice\/","title":{"rendered":"Veliki problem s umjetnom inteligencijom je da voli izmi\u0161ljati \u010dinjenice"},"content":{"rendered":"\n

Prije nego \u0161to umjetna inteligencija<\/a> mo\u017ee zaista zavladati svijetom, suo\u010dava se s klju\u010dnim problemom koji treba rije\u0161iti. Radi se o takozvanim halucinacijama koje generira AI.<\/p>\n\n\n\n

\u010carolija alata koji pokre\u0107e AI, poput ChatGPT-a, le\u017ei u njihovoj impresivnoj sposobnosti generiranja odgovora sli\u010dnih ljudskima, \u010desto uvjerljivo odgovaraju\u0107i na raznovrsne upite. Me\u0111utim, kako se ova tehnologija sve vi\u0161e integrira u zadatke koji se kre\u0107u od pomo\u0107i u obrazovanju i istra\u017eivanju na radnom mjestu do upita vezanih za zdravlje, pojavljuje se zna\u010dajan razlog za zabrinutost: AI sustavi \u010desto generiraju informacije koje nisu to\u010dne.<\/p>\n\n\n\n

Hallucinations in LLM are due to the Auto-Regressive prediction.

I think what I call "Objective Driven AI" will solve the problem: systems that plan their answer by optimizing a number of objective functions *at inference time* https:\/\/t.co\/JcR5hItwzJ<\/a><\/p>— Yann LeCun (@ylecun) June 9, 2023<\/a><\/blockquote>\n\n\n\n

Ovaj fenomen, nazvan halucinacijom od strane stru\u010dnjaka, privukao je pa\u017enju mnogih. Neke kritike idu toliko daleko da AI chatbotove nazivaju “patolo\u0161kim la\u017eljivcima”.<\/p>\n\n\n\n

No, ovi epiteti proizlaze iz ljudske sklonosti da pripisujemo ljudske osobine radnjama strojeva, tvrdi Suresh Venkatasubramanian, profesor Sveu\u010dili\u0161ta Brown. U stvarnosti, Venkatasubramanian sugerira da je temeljna tehnologija, veliki jezi\u010dni model poput onog koji pokre\u0107u ChatGPT, jednostavno usmjeren na stvaranje odgovora koji zvu\u010de vjerodostojno, bez obzira na njihovu to\u010dnost. “Tu nema spoznaje o istini”, poja\u0161njava on.<\/p>\n\n\n\n

Poma\u017eu\u0107i u stvaranju bolje analogije, Venkatasubramanian uspore\u0111uje generirani izlaz AI-a s tendencijom dje\u010djeg pri\u010danja pri\u010da. Ba\u0161 kao \u0161to dijete iznova i iznova stvara pri\u010de, AI modeli stvaraju odgovore bez oslanjanja na \u010dinjenice.<\/p>\n\n\n\n

I dok su kreatori AI-a implementirali za\u0161titne mehanizme kako bi ubla\u017eili takve halucinacije, rasprava unutar AI zajednice i dalje traje o tome mo\u017ee li se ovo pitanje potpuno rije\u0161iti.<\/p>\n\n\n\n

AI halucinacija doga\u0111a se kada AI generira sadr\u017eaj koji odstupa od stvarnosti, kako obja\u0161njava Jevin West sa Sveu\u010dili\u0161ta Washington's Center for an Informed Public. To \u010dini sa zapanjuju\u0107om razinom samopouzdanja, a tadase \u010dini da su informacije to\u010dne. Ova karakteristika ote\u017eava korisnicima razlikovanje istine od neistine kada tra\u017ee odgovore od umjetne inteligencije<\/a>.<\/p>\n\n\n

\n
\"kori\u0161tenje
Foto: Shutterstock<\/figcaption><\/figure><\/div>\n\n\n

Ve\u0107 su se pojavili neki istaknuti slu\u010dajevi AI halucinacija koji su privukli pa\u017enju. Googleov Bard, konkurencija ChatGPT-u, pogre\u0161no je odgovorio na pitanje o otkri\u0107ima teleskopa James Webb<\/a>. Odvjetnik iz New Yorka na\u0161ao se u nevolji kada je pravno mi\u0161ljenje koje je stvorio pomo\u0107u ChatGPT-a sadr\u017eavalo izmi\u0161ljene slu\u010dajeve<\/a>. \u010cak su i ugledne vijesti poput CNET-a morale izdati ispravke nakon \u0161to je sadr\u017eaj generiran pomo\u0107u AI-a pru\u017eio iznimno neto\u010dne financijske savjete.<\/p>\n\n\n\n

Me\u0111utim, suo\u010davanje s AI halucinacijama predstavlja vi\u0161eslojan izazov, kako napominje Venkatasubramanian. Slo\u017eenost modela obuke, uklju\u010duju\u0107i ogromne skupove podataka i kombinaciju automatskih i ljudskih procesa, \u010dini ih istovremeno sna\u017enim i krhkim. Minijaturne varijacije u unosima mogu dovesti do drasti\u010dnih promjena u izlazu, a to je zna\u010dajka koja ote\u017eava prepoznavanje potencijalnih problema.<\/p>\n\n\n\n

Unato\u010d nastojanjima, mogu\u0107e je da \u0107e te pote\u0161ko\u0107e biti nemogu\u0107e otkloniti, kako to opisuje West. U me\u0111uvremenu, skepti\u010dan pristup odgovorima generiranima pomo\u0107u AI-a bit \u0107e i vi\u0161e nego opravdan.<\/p>\n\n\n\n

I dok AI alati briljiraju u kreativnim podru\u010djima kao \u0161to je pisanje poezije, njihova nepouzdanost ostaje problemati\u010dna kada se tra\u017ee \u010dinjeni\u010dne informacije, posebno u domenama poput zdravlja i dono\u0161enja odluka.<\/p>\n\n\n\n

U kona\u010dnici, suo\u010davanje s AI halucinacijama pokazuje se kao izazov koji zahtijeva pa\u017eljivo razmatranje, kontinuirano istra\u017eivanje i razumijevanje uro\u0111enih ograni\u010denja trenutne tehnologije.<\/p>\n","protected":false},"excerpt":{"rendered":"

Prije nego \u0161to umjetna inteligencija mo\u017ee zaista zavladati svijetom, suo\u010dava se s klju\u010dnim problemom koji treba rije\u0161iti. Radi se o takozvanim halucinacijama koje generira AI. \u010carolija alata koji pokre\u0107e AI, poput ChatGPT-a, le\u017ei u njihovoj impresivnoj sposobnosti generiranja odgovora sli\u010dnih ljudskima, \u010desto uvjerljivo odgovaraju\u0107i na raznovrsne upite. Me\u0111utim, kako se ova tehnologija sve vi\u0161e integrira […]<\/p>\n","protected":false},"author":3841,"featured_media":21051795,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"publish_to_discourse":"","publish_post_category":"","wpdc_auto_publish_overridden":"","wpdc_topic_tags":"","wpdc_pin_topic":"","wpdc_pin_until":"","discourse_post_id":"","discourse_permalink":"","wpdc_publishing_response":"","wpdc_publishing_error":"","_lmt_disableupdate":"","_lmt_disable":"","footnotes":""},"categories":[8660],"tags":[3354,8223,8636,8637,3247],"modified_by":"Hrvoje \u0160.","_links":{"self":[{"href":"https:\/\/geek.hr\/wp-json\/wp\/v2\/posts\/21051792"}],"collection":[{"href":"https:\/\/geek.hr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/geek.hr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/geek.hr\/wp-json\/wp\/v2\/users\/3841"}],"replies":[{"embeddable":true,"href":"https:\/\/geek.hr\/wp-json\/wp\/v2\/comments?post=21051792"}],"version-history":[{"count":3,"href":"https:\/\/geek.hr\/wp-json\/wp\/v2\/posts\/21051792\/revisions"}],"predecessor-version":[{"id":21051797,"href":"https:\/\/geek.hr\/wp-json\/wp\/v2\/posts\/21051792\/revisions\/21051797"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/geek.hr\/wp-json\/wp\/v2\/media\/21051795"}],"wp:attachment":[{"href":"https:\/\/geek.hr\/wp-json\/wp\/v2\/media?parent=21051792"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/geek.hr\/wp-json\/wp\/v2\/categories?post=21051792"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/geek.hr\/wp-json\/wp\/v2\/tags?post=21051792"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}