Za OpenAI najveća prijetnja možda dolazi iz – Open AI-ja. Tvrtka je nedavno objavila da traži ljude za poziciju “Technical Insider Risk Investigator” kako bi “ojačali organizaciju protiv unutarnjih sigurnosnih prijetnji”. Prema objavi, radne dužnosti uključuju analizu anomalijskih aktivnosti, otkrivanje i ublažavanje prijetnji od insajdera te rad s ljudskim resursima i pravnim odjelima na “provođenju istraga o sumnjivim aktivnostima”. Glasnogovornik OpenAI-ja rekao je da tvrtka ne komentira oglase za posao.
OpenAI je već u središtu žestoke rasprave o umjetnoj inteligenciji i sigurnosti. Zaposlenici tvrtke, kao i američki zakonodavci, javno su izrazili zabrinutost oko toga čini li OpenAI dovoljno kako bi osigurao da se njegove moćne tehnologije ne koriste za nanošenje štete.
Zaštita poslovnih tajni? Ili nešto više?
U isto vrijeme OpenAI je primijetio kako akteri povezani s Kinom, Rusijom i Iranom pokušavaju koristiti njegove AI modele za “zlonamjerne radnje”. Tvrtka kaže da je poremetila te radnje i ukinula račune povezane s uključenim stranama. Sam OpenAI postao je meta zlonamjernih aktera tijekom prošle godine kada su hakeri probili njegov interni sustav za razmjenu poruka, incident koji je izašao na vidjelo tek nakon što su dvije osobe odale informacije New York Timesu.
Osim hakerskih skupina i autoritarnih vlada, čini se da ovaj oglas za posao ukazuje na to da je OpenAI također zabrinut zbog prijetnji koje potječu od vlastitih zaposlenika. Iako nije jasno na koju vrstu prijetnje OpenAI traga. Jedna je mogućnost da tvrtka nastoji zaštititi poslovne tajne koje podupiru njezinu tehnologiju. Prema oglasu za posao, OpenAI-jevo angažiranje internog istražitelja dio je dobrovoljnih obveza o sigurnosti umjetne inteligencije koje je tvrtka dala Bijeloj kući, od kojih je jedno ulaganje u “zaštitne mjere od insajderskih prijetnji za zaštitu vlasničkih i neobjavljenih modela”.
U otvorenom pismu koje je izašlo prošlog lipnja, sadašnji i bivši zaposlenici OpenAI-ja napisali su da se osjećaju blokiranima u izražavanju svoje zabrinutosti o sigurnosti AI-ja. U pismu se OpenAI poziva da zajamči “pravo da upozori” javnost o opasnostima OpenAI-jevih proizvoda. Možda će se budući interni istražitelj uhvatiti u koštac s tim zaposlenicima…
