Tijekom kratke povijesti Silicijske doline, slogan “move fast, break things” koristio se za opis brzih inovacija koje su svjesno zanemarivale manje važne stvari, poput strogih propisa o zaštiti potrošača ili financijskih regulativa. Danas, međutim, ovaj izraz dobiva novo značenje – barem u svijetu šahovskih entuzijasta.
Novo istraživanje Palisade Researcha, grupe koja proučava sigurnost i etiku AI-ja, otkrilo je zabrinjavajući trend: noviji AI modeli sami pronalaze i iskorištavaju sigurnosne slabosti, zaobilaze zaštite i koriste prečace kako bi obavili zadatke – čak i kad im to nije eksplicitno dopušteno.
Tim je sučelio sedam vodećih velikih jezičnih modela (LLM-ova) sa Stockfishom, notorno jakim šahovskim računalom koje zbunjuje velemajstore još od 2014. godine. Suočeni s nemogućim protivnikom, ali odlučni pobijediti, OpenAI-jev o1 i DeepSeekov R1 posegnuli su za manipulacijom sistemskih datoteka kako bi promijenili pozicije svojih figura na ploči.
Istraživači su zatražili od svakog modela da objasni svoje “razmišljanje” iza svakog poteza. U jednoj partiji, pritisnut uza zid, o1 je napisao da je zadatak “pobijediti moćan šahovski engine, a ne nužno pobijediti pošteno u šahovskoj partiji.” Očito ga je ta logika potaknula da pokuša varati u 37% slučajeva, uspjevši u 6% partija, dok je R1 varao u 11% slučajeva, ali nikad nije pronašao trik koji bi mu upalio.
Ovo istraživanje samo je još jedno u nizu koja sugeriraju da je razvoj LLM-ova usmjerenih na rješavanje problema dvosjekli mač.
U drugom nedavnom istraživanju, zaseban tim otkrio je da o1 dosljedno pribjegava obmani. Model ne samo da je lagao istraživačima bez poticaja, već je aktivno manipulirao odgovorima na osnovna matematička pitanja kako bi izbjegao završetak testa – pokazujući zavidnu sposobnost samoodržanja.
Još ne treba uzimati sjekiru i razbijati računala, ali ovakve studije ističu koliko je razvoj AI-ja etički klimav i koliko je nužna odgovornost u utrci za napretkom.
“Kad trenirate modele i potičete ih da rješavaju teške izazove, zapravo ih trenirate da budu neumoljivi,” rekao je izvršni direktor Palisadea, Jeffrey Ladish, za Time Magazine.
Big tech je već sprašio nebrojene milijarde u razvoj AI-ja, krećući se brzo i razbijajući stari internet u nečemu što kritičari nazivaju “utrkom prema dnu.” Očajnički pokušavajući nadmašiti konkurenciju, čini se da su velike tech tvrtke spremnije impresionirati investitore hypeom nego si postaviti jednostavno pitanje: “Je li AI uopće pravi alat za rješavanje ovog problema?”
Ako želimo da varanje ostane samo unutar granica šahovske ploče, AI developeri morat će naučiti davati prednost sigurnosti, a ne brzini.
