Jedan od vodećih svjetskih pionira u području umjetne inteligencije upozorava ne samo da sve moćnija tehnologija može naštetiti svijetu, već i da su ljudi koji njome upravljaju podjednako opasni.
U intervjuu za CNBC, ugledni znanstvenik računalnih znanosti Yoshua Bengio izjavio je da članovi elitne tehnološke “rubne skupine” žele da umjetna inteligencija zamijeni ljude.
Kao voditelj Instituta za algoritme učenja na Sveučilištu u Montrealu, Bengio je bio jedan od potpisnika javnog pisma Pravo na upozorenje, kojeg su sastavili vodeći istraživači umjetne inteligencije iz OpenAI-ja, tvrdeći da ih se pokušava ušutkati u vezi s opasnostima ove tehnologije. Zajedno s poznatim stručnjacima Yannom LeCunom i Geoffreyjem Hintonom, Bengio je često nazivan jednim od “kumova umjetne inteligencije.”
“Inteligencija donosi moć. Dakle, tko će kontrolirati tu moć?”, rekao je ovaj vrhunski stručnjak za strojno učenje tijekom summita One Young World u Montrealu.
“Postoje ljudi koji bi mogli zloupotrijebiti tu moć, a ima i onih koji bi bili sretni da vide kako strojevi zamjenjuju čovječanstvo,” tvrdi Bengio. “Mislim, to je rubna skupina, ali ti ljudi mogu imati puno moći i mogu to ostvariti ako odmah ne postavimo odgovarajuće zaštitne mehanizme.”
Novac govori
Bengio je istaknuo da se financijska dimenzija moći ne smije zanemariti jer izgradnja AI sustava košta milijarde dolara.
“Vrlo malo organizacija i vrlo malo zemalja moći će to ostvariti”, rekao je voditelj AI laboratorija Sveučilišta u Montrealu. “To je već slučaj.”
“Doći će do koncentracije moći: ekonomske moći, što može biti loše za tržišta; političke moći, što bi moglo ugroziti demokraciju; i vojne moći, što bi moglo narušiti geopolitičku stabilnost našeg planeta”, nastavio je.
Trenutno se stručnjaci ne slažu oko toga hoće li se i kada dosegnuti umjetna opća inteligencija, odnosno AI na ljudskoj razini. Ako se to dogodi prije nego što globalna politika sustigne tehnologiju, Bengio upozorava da ćemo biti u problemima.
“Ako se to dogodi za pet godina, nismo spremni“, zaključio je. “Jer nemamo metode kojima bismo osigurali da ti sustavi neće štetiti ljudima ili se okrenuti protiv njih.”
Iako nije prvi stručnjak za umjetnu inteligenciju koji upozorava na njene opasnosti, Bengio ima posebnu težinu u tim raspravama – naposljetku, on je jedan od onih koji su je pomogli stvoriti.
