Pratite nas

Pozdrav, koji sadržaj vas zanima?

Tech

‘AI djevojke’ su noćna mora za privatnost

Foto: Pixabay

Ne biste trebali vjerovati nikakvim odgovorima koje vam šalje chatbot. A vjerojatno mu ne biste trebali vjerovati ni svoje osobne podatke. To posebno vrijedi za “AI djevojke” ili “AI dečke”, dakle romantične partnere koje je stvorila umjetna inteligencija, otkriva novo istraživanje.

Analiza 11 takozvanih chatbota za ljubavne i suputničke veze, koju je u srijedu objavila Zaklada Mozilla, otkrila je niz problema vezanih uz sigurnost i privatnost robota. Aplikacije koje su preuzete više od 100 milijuna puta na Android uređaje, prikupljaju ogromne količine podataka o ljudima, koriste trackere koji šalju informacije Googleu, Facebooku i tvrtkama u Rusiji i Kini, omogućuju korisnicima korištenje slabih lozinki i manjkavi su po pitanju transparentnosti o njihovom vlasništvu i modelima umjetne inteligencije koji ih pokreću.

Otkako je OpenAI pustio ChatGPT u svijet u studenom 2022., programeri su se utrkivali u implementaciji velikih jezičnih modela i stvaranju chatbota s kojima ljudi mogu komunicirati i platiti pretplatu. Istraživanje Mozille daje uvid u to kako je ova zlatna groznica možda zanemarila privatnost ljudi u napetosti između novih tehnologija i načina na koji prikupljaju i koriste podatke.

Također pokazuje kako bi hakeri mogli zloupotrijebiti chat poruke ljudi.
Mnoge “AI djevojke” ili usluge romantičnih chatbota izgledaju slično. Često prikazuju slike žena koje je generirala umjetna inteligencija i koje se mogu seksualizirati ili se nalaziti uz provokativne poruke.

Mozillini istraživači promatrali su razne chatbotove, uključujući velike i male aplikacije, od kojih su neke navodno bile “djevojke”. Drugi nude ljudima podršku kroz prijateljstvo ili intimnost, ili dopuštaju igranje uloga i druge fantazije.

“Ove su aplikacije osmišljene za prikupljanje gomile osobnih podataka”, kaže Jen Caltrider, voditeljica projekta za Mozillin tim Privacy Not Included, koji je proveo analizu.

“Guraju vas prema igranju uloga, puno seksa, puno intimnosti, puno dijeljenja.”

Na primjer, snimke zaslona s EVA AI chatbota prikazuju tekst koji kaže “volim kad mi šalješ svoje fotografije i glas” i pita je li netko “spreman podijeliti sve tvoje tajne i želje”.

Caltrider kaže da postoji više problema s tim aplikacijama i web stranicama. Mnogim aplikacijama možda nije jasno koje podatke dijele s trećim stranama, gdje se nalaze ili tko ih stvara, kaže Caltrider, dodajući da neke dopuštaju ljudima stvaranje slabih lozinki, dok druge pružaju malo informacija o umjetnoj inteligenciji koju koristiti. Sve analizirane aplikacije imale su različite slučajeve upotrebe i slabosti.

Uzmimo za primjer Romantic AI, uslugu koja vam omogućuje da “stvorite vlastitu AI djevojku”. Promotivne slike na početnoj stranici prikazuju chatbota koji šalje poruku: “Upravo sam kupio novo donje rublje. Želiš vidjeti?”.

Dokumenti o privatnosti aplikacije, prema Mozillinoj analizi, kažu da neće prodavati podatke ljudi. Međutim, kada su istraživači testirali aplikaciju, otkrili su da je “poslala 24 354 oglasa za praćenje unutar jedne minute korištenja.”

Druge nadzirane aplikacije imale su stotine trackera. Općenito, kaže Caltrider, aplikacijama nije jasno koje podatke smiju dijeliti ili prodavati ili kako točno koriste neke od tih informacija.

“Pravna dokumentacija bila je nejasna, teška za razumijevanje, ne baš specifična – kao šablonska stvar”, kaže Caltrider, dodajući da bi to moglo smanjiti povjerenje koje bi ljudi trebali imati u tvrtke.

Ostavi komentar

Možda će vas zanimati

Tech

Što bi se dogodilo ako uronite ruku u posudu tekućeg dušika? Bi li vam se ruka smrzla do ozeblina? Bi li se razbila čim...

Internet

Sigurno ste do sad naletjeli na neke od bizarnosti na koje je Googleovo auto naletjelo pri snimanju, a u ovom videu pogledajte kompilaciju najčudnijih...

Tech

Trebate izračunati postotak od nekog broja, a ne znate kako? Pročitajte ovaj jednostavan članak i naučite kako se računa postotak. Postotci se koriste za...

Tech

1995. godine grupa znanstvenika NASA-e napravila je testove o tome kako pojedine droge utječu na paukovu sposobnost da izgradi mrežu.

Internet

Odmah da vam kažemo – neizbježan kraj dogodio bi se iznenađujuće brzo. Ako je zapremnina prosječnog lijesa 886 litara, a prosječan volumen ljudskog tijela...

Automoto

Tvrtka Laser Power Systems razvila je automobil pogonjen nuklearnom energijom. Napokon je pronađen način koji će vašem automobilu omogućiti vječni rad bez punjenja. No...

Tech

Rudnik dijamanata Mir u Siberu jedna je od najvećih rupa u tlu koju je čovjek napravio. Duboka je 525 metara i široka 1200m. Let...

Tech

Bumerang je jedan od najstarijih letećih objekata koje je ljudska ruka stvorila. Svi znamo da su ih koristili Aboridžini, no malo je poznato je...