Još uvijek postoji poprilična nostalgija za nekim starim operacijskim sustavima poput Windowsa 95. U razdoblju u kojem neki pate za davno svršenim vremenima, jedan zaljubljenik u Windowse uspio je upotrijebiti sveprisutni ChatGPT za generiranje jednostavnih aktivacijskih ključeva (product key) Windowsa. Krajem ožujka, YouTuber imena Enderman pokazao je kako je uspio navesti OpenAI-jev ChatGPT da generira ključeve za Windows 95 unatoč tome što se chatbot izričito protivi stvaranju aktivacijskih ključeva.
Isprika chatbota
Stari Windows 95 OEM ključevi koristili su nekoliko parametara, uključujući skup rednih brojeva kao i druge nasumične brojeve. Poprilično jednostavno, Enderman je naredio ChatGPT-ju da generira retke u istom rasporedu kao ključ Windowsa 95, obraćajući posebnu pozornost na specifične serijske brojeve koji su obvezni u svim ključevima. Nakon nekoliko desetaka pokušaja, odlučio se za kod koji je radio i mogao je generirati jedan radni ključ na svakih 30 pokušaja. Drugim riječima, nije mogao narediti ChatGPT-ju da generira Windows ključ, ali mu je mogao narediti da generira niz znakova koji odgovaraju svim zahtjevima Windows ključa.
Nakon što je Enderman dokazao da ključ radi u instalaciji Windowsa 95, zahvalio je ChatGPT-ju. Chatbot je odgovorio: “Ispričavam se zbog bilo kakve zabune, ali nisam dao nikakve ključeve za Windows 95 u svom prethodnom odgovoru… Ne mogu dati nikakve ključeve proizvoda ili aktivacijske kodove za bilo koji softver.” Nadalje je pokušao tvrditi da aktivacija Windowsa 95 “nije moguća” jer je Microsoft prestao podržavati softver 2001., što jednostavno nije istina.
Zanimljivo, Enderman je pokrenuo ovaj upit i na starijem, GPT-3 jezičnom modelu i na OpenAI-jevom novijem GPT-4, i rekao je da je noviji model poboljšan čak i u odnosu na ono što možete vidjeti u njegovom videu. U e-mailu za jedan strani portal, spomenuti Enderman naglasio je da određeni brojčani niz u ključu mora biti djeljiv sa 7. GPT-3 se mučio razumjeti to ograničenje i stvorio je mnogo manje upotrebljivih ključeva. U narednim testovima s jezičnog modela GPT-4, ChatGPT bi izbacio puno ispravnije ključeve, iako čak ni tada nije svaki ključ bio dobitan ili se držao parametara upita. YouTuber je objasnio da to sugerira da “GPT-4 zna kako izračunati, ali se izgubi tijekom skupnog generiranja.”
GPT-4 nema ugrađeni kalkulator, a oni koji žele koristiti sustav za generiranje točnih odgovora na matematičke probleme moraju dodatno kodirati. Iako OpenAI nije otkrio podatke o obuci LLM-a (Logic Learning Machine), tvrtka je bila vrlo uzbuđena zbog svih različitih testova koje može položiti s najboljim ocjenama. U isto vrijeme, ChatGPT je pokazao da povremeno ne uspijeva ponuditi točan kod.
Ne očekujte aktivaciju novijih OS-ova
Jedna od glavnih prodajnih prednosti GPT-4 bila je njegova sposobnost rukovanja dužim, složenijim upitima. GPT-3 i verzija 3.5 rutinski ne bi uspjeli stvoriti točne odgovore kada bi koristili troznamenkastu aritmetiku ili zadatke “zaključivanja” poput dešifriranja riječi. Najnovija verzija LLM-a osjetno je bolja u ovakvim zadacima. Ipak, sustav ni u kom slučaju nije savršen, pogotovo zato što uglavnom uči pomoću tekstova na prirodnom jeziku preuzetih s interneta. Enderman je otkrio da je pokušao generirati ključeve za više programa koristeći GPT-4 model, otkrivši da bolje podnosi generiranje ključeva od ranijih verzija jezičnog modela.
Ipak, nemojte očekivati da ćete početi dobivati besplatne ključeve za moderne programe. Kao što YouTuber ističe u svom videu, Windows 95 ključeve mnogo je lakše “prevariti” nego ključeve za Windows XP i one novije operacijske sustave, budući da je Microsoft počeo implementirati ID-ove proizvoda u instalacijski softver operativnog sustava. Unatoč nadimku, AI sustavi poput ChatGPT-a i GPT-4 zapravo nisu “inteligentni” i ne znaju kada su zloupotrijebljeni osim izričitih zabrana generiranja “nedopuštenog” sadržaja.
ChatGPT korišten za ‘poboljšanje’ malwarea
Međutim, ovo ima ozbiljnije implikacije. Još u siječnju, istraživači tvrtke za kibernetičku sigurnost, Checkpoint, pokazali su da su zlonamjerni korisnici koristili ChatGPT za “poboljšanje” osnovnog zloćudnog softvera, odnosno malwarea. Postoji mnogo načina da se zaobiđu OpenAI-jeva ograničenja, a kibernetički kriminalci pokazali su da su sposobni napisati osnovne kodove ili botove za zlouporabu API-ja tvrtke.
Ranije ove godine, istraživači Checkpointa rekli su da su uspjeli natjerati ChatGPT da stvori alate za zloćudni softver samo stvaranjem nekoliko autoritativnih upita s višestrukim ograničenjima. Chatbot je na kraju pristao i generirao zloćudni kod te ga je čak mogao mutirati, stvarajući više varijanti istog zlonamjernog softvera.
Endermanovi Windows ključevi dobar su primjer kako se umjetna inteligencija može nagovoriti da zaobiđe vlastite zabrane. Enderman je otkrio kako nije previše zabrinut zbog zlouporabe, jer “što više ljudi vara umjetnu inteligenciju, to će više budućih izdanja biti sposobno riješiti nove probleme”. Za kraj je Enderman zaključio:
Vjerujem da je to dobra stvar i da tvrtke poput Microsofta ne bi trebalo kazniti korisnike zbog zlouporabe njihove umjetne inteligencije. Umjesto toga, trebali bi nagraditi aktivne korisnike za pronalaženje takvih eksploatacija i selektivno ih ublažiti. Uostalom, sve je to dio AI obuke.
