Elon Musk i više od 100 svjetskih vođa i stručnjaka za umjetnu inteligenciju (UI) udružili su se u uvjeravanju UN-a da objavi izravnu zabranu tehnologije robota-ubojica.
Otvoreno pismo koje su potpisali Elon Musk, Mustafa Suleyman iz Google Deepmind organizacije i još 114 drugih specijalista za umjetnu inteligenciju i robotiku apeliraju na UN da spriječi “treću revoluciju ratovanja” zabranom razvoja svih letalnih autonomnih bojnih sustava.
Otvoreno pismo, objavljeno u vrijeme najveće svjetske konferencije za UI – IJCAI 2017, koja se odvija ovaj tjedan u Melbourneu u Australiji – upozorava na blisku budućnost u kojoj će neovisni strojevi moći odabrati i naciljati vlastite mete, uključujući i nedužne ljude osim neprijateljskih boraca.
“Jednom razvijeni, oni će omogućiti da se oružani konflikt odvija na višem stupnju nego ikada dosad, i vremenski brže nego što ljudi mogu shvatiti”, piše konzorcij u pismu.
“Ovo bi mogla biti oružja terora, oružja koja despoti i teroristi mogu koristi spram nedužnih populacija, i oružja koja se mogu hakirati da bi se ponašala na neželjene načine.”
Ovo nije prvi put da se Musk i ostali iz njegovog svijeta ujedinjuju kako bi skrenuli pozornost na prijetnju koju autonomna oružja predstavljaju za čovječanstvo.
Glavni direktor SpaceX-a i Tesle stoji iza OpenAI, neprofitne organizacije posvećene unaprjeđenju etičkog UI istraživanja.
No, unatoč zabrinutosti koju izražavaju stručnjaci za UI, ova odgađanja u razvoju djelotvorne zabrane autonomnih oružja u nekima su pobudili strah da bi opasnosti mogle biti van regulativnih mogućnosti, osobito kad se uzme u obzir brzina kojom se razvijaju UI sustavi.
“Nemamo mnogo vremena”, piše u pismu. “Jednom kad se Pandorina kutija otvori, bit će ju jako teško zatvoriti.”
“Treća revolucija” na koju se pozivaju učesnici kampanje postavlja robote-ubojice kao neku vrstu tehnološkog nasljednika povijesnog razvoja baruta i nuklearnog oružja – inovacija za koje se ne može reći da su poboljšale svijet u kojemu živimo.
Ovo je prvi put da su predstavnici tvrtka koje se bave umjetnom inteligencijom i robotikom – iz čak 26 zemalja – udružili svoja nastojanja, i pridružili se brojnim upozorenjima koja su dolazila iz redova neovisnih znanstvenika poput Stephena Hawkinga, Noama Chomskog i suosnivača Applea Stevea Wozniaka.
“Broj istaknutih tvrtki i pojedinaca koji su potpisali ovo pismo podebljava naše upozorenje da ovdje nije riječ o hipotetskom scenariju, nego o vrlo stvarnoj i vrlo gorućoj temi koja zahtijeva neposrednu akciju”, rekao je osnivač Clearpath Robotics, Ryan Gariepy.
“Ne bismo smjeli izgubiti iz vida činjenicu da, za razliku od ostalih potencijalnih manifestacija umjetne inteligencije koje su i dalje u području znanstvene fantastike, autonomni bojni sustavi sada su na vrhu razvoja.”
Ova posljednja izjava mora se naglasiti – situacija je takva da su strojevi-ubojice s umjetnom inteligencijom već dio naše stvarnosti.
Autonomna ili polu-autonomna sposobnost sve se više ugrađuje u oružja poput Samsung SGR-A1 stražarskog pištolja, drona BAE System Taranis i DARPA-ine podmornice Sea Hunter.
Drugim riječima, tehnološko sjeme za robote-ubojice sutrašnjice već je posijano, i to na zemlji, u zraku i u vodi – a učinkoviti zakoni koji bi regulirali ove smrtonosne strojeve (i industriju koja je odlučna u njihovoj izradi) još nisu napisani.
“Gotovo svaka tehnologija može se koristiti u dobre i u loše svrhe, a umjetna inteligencija nije ništa drugačija”, rekao je Toby Walsh sa Sveučilišta Novi Južni Wales, jedan od organizatora konferencije IJCAI 2017.
“Može pomoći u rješavanju brojnih gorućih problema s kojima se susreće današnje društvo… No, ista tehnologija može se koristiti i u izgradnji autonomnih oružja koji bi industrijalizirali rat. Moramo donositi odluke danas kako bi odabrali budućnost koju želimo.”
