Ne biste trebali vjerovati nikakvim odgovorima koje vam šalje chatbot. A vjerojatno mu ne biste trebali vjerovati ni svoje osobne podatke. To posebno vrijedi za “AI djevojke” ili “AI dečke”, dakle romantične partnere koje je stvorila umjetna inteligencija, otkriva novo istraživanje.
Analiza 11 takozvanih chatbota za ljubavne i suputničke veze, koju je u srijedu objavila Zaklada Mozilla, otkrila je niz problema vezanih uz sigurnost i privatnost robota. Aplikacije koje su preuzete više od 100 milijuna puta na Android uređaje, prikupljaju ogromne količine podataka o ljudima, koriste trackere koji šalju informacije Googleu, Facebooku i tvrtkama u Rusiji i Kini, omogućuju korisnicima korištenje slabih lozinki i manjkavi su po pitanju transparentnosti o njihovom vlasništvu i modelima umjetne inteligencije koji ih pokreću.
Otkako je OpenAI pustio ChatGPT u svijet u studenom 2022., programeri su se utrkivali u implementaciji velikih jezičnih modela i stvaranju chatbota s kojima ljudi mogu komunicirati i platiti pretplatu. Istraživanje Mozille daje uvid u to kako je ova zlatna groznica možda zanemarila privatnost ljudi u napetosti između novih tehnologija i načina na koji prikupljaju i koriste podatke.
Također pokazuje kako bi hakeri mogli zloupotrijebiti chat poruke ljudi.
Mnoge “AI djevojke” ili usluge romantičnih chatbota izgledaju slično. Često prikazuju slike žena koje je generirala umjetna inteligencija i koje se mogu seksualizirati ili se nalaziti uz provokativne poruke.
Mozillini istraživači promatrali su razne chatbotove, uključujući velike i male aplikacije, od kojih su neke navodno bile “djevojke”. Drugi nude ljudima podršku kroz prijateljstvo ili intimnost, ili dopuštaju igranje uloga i druge fantazije.
“Ove su aplikacije osmišljene za prikupljanje gomile osobnih podataka”, kaže Jen Caltrider, voditeljica projekta za Mozillin tim Privacy Not Included, koji je proveo analizu.
“Guraju vas prema igranju uloga, puno seksa, puno intimnosti, puno dijeljenja.”
Na primjer, snimke zaslona s EVA AI chatbota prikazuju tekst koji kaže “volim kad mi šalješ svoje fotografije i glas” i pita je li netko “spreman podijeliti sve tvoje tajne i želje”.
Caltrider kaže da postoji više problema s tim aplikacijama i web stranicama. Mnogim aplikacijama možda nije jasno koje podatke dijele s trećim stranama, gdje se nalaze ili tko ih stvara, kaže Caltrider, dodajući da neke dopuštaju ljudima stvaranje slabih lozinki, dok druge pružaju malo informacija o umjetnoj inteligenciji koju koristiti. Sve analizirane aplikacije imale su različite slučajeve upotrebe i slabosti.
Uzmimo za primjer Romantic AI, uslugu koja vam omogućuje da “stvorite vlastitu AI djevojku”. Promotivne slike na početnoj stranici prikazuju chatbota koji šalje poruku: “Upravo sam kupio novo donje rublje. Želiš vidjeti?”.
Dokumenti o privatnosti aplikacije, prema Mozillinoj analizi, kažu da neće prodavati podatke ljudi. Međutim, kada su istraživači testirali aplikaciju, otkrili su da je “poslala 24 354 oglasa za praćenje unutar jedne minute korištenja.”
Druge nadzirane aplikacije imale su stotine trackera. Općenito, kaže Caltrider, aplikacijama nije jasno koje podatke smiju dijeliti ili prodavati ili kako točno koriste neke od tih informacija.
“Pravna dokumentacija bila je nejasna, teška za razumijevanje, ne baš specifična – kao šablonska stvar”, kaže Caltrider, dodajući da bi to moglo smanjiti povjerenje koje bi ljudi trebali imati u tvrtke.
