Stručnjaci upozoravaju da proces iza ovih slika uključuje mnogo više od jednostavne obrade fotografija.
Stručnjak za vještačku inteligenciju (AI) upozorio je na viralni trend koji koristi ChatGPT i druge AI alate za pretvaranje ličnih fotografija u humoristične karikature, naglašavajući da naizgled bezazlen trend nosi ozbiljne rizike po privatnost i sigurnost.
Trend, koji se nedavno proširio društvenim mrežama, ne svodi se samo na izmjenu crta lica radi stvaranja crtanih prikaza. U mnogim slučajevima pokušava predvidjeti zanimanje korisnika i vizuelno ga uklopiti u satiričnu scenu.
Međutim, stručnjaci upozoravaju da proces iza ovih slika uključuje mnogo više od jednostavne obrade fotografija.
Govoreći za Al Arabiya, Mohamed Mohsen Ramadan, šef Jedinice za vještačku inteligenciju i kibernetičku sigurnost pri Arapskom centru za istraživanja i studije, rekao je da ovaj trend, uprkos velikoj popularnosti, krije stvarne tehničke i sigurnosne rizike.
Objasnio je da se takve aplikacije oslanjaju na napredne AI sisteme, uključujući modele računalnog vida koji analiziraju crte lica, starost, izraze, odjeću i detalje iz pozadine fotografije. Također koriste duboko učenje i multimodalne modele koji kombinuju slike, tekst, prethodne podatke i ponašanje korisnika.
Detaljno algoritamsko profilisanje
Ramadan je kazao da postavljanje fotografije ne rezultira samo karikaturom. Umjesto toga, slika se podvrgava detaljnoj algoritamskoj analizi kako bi se izdvojile karakteristike koje mogu ukazivati na nečije zanimanje, poput ljekara, inženjera, novinara ili programera, kao i obrasci životnog stila, profesionalno okruženje, a u nekim slučajevima i indirektni pokazatelji društvenog statusa.
Naglasio je da AI ne prepoznaje zanimanja u ljudskom smislu, već ih statistički predviđa na osnovu karakteristika lica, izraza, odjeće, pozadine slike, metapodataka, a ponekad i veza sa korisnikovim profilima na društvenim mrežama.
Iako rezultati mogu djelovati zabavno, Ramadan upozorava da se radi o automatizovanoj klasifikaciji koja može biti netačna ili pristrasna, a često se odvija bez informisanog pristanka korisnika.
Rizici krađe identiteta
Dodao je da biometrijski podaci, koji se smatraju izuzetno osjetljivim, mogu biti zloupotrijebljeni za izradu deepfake sadržaja, krađu identiteta i stvaranje trajnog digitalnog profila. Povezivanje fotografije s digitalnim identitetom putem društvenih mreža zapravo znači povezivanje lica s imenom i online ponašanjem.
Kada se slike koriste za treniranje AI modela, rekao je Ramadan, one mogu postati dio ogromnih baza podataka koje služe za unapređenje sistema za prepoznavanje lica, te potencijalno ostati ugrađene u modele čak i nakon brisanja naloga ili aplikacije.
Korisnici, upozorio je, nemaju jasan način da saznaju šta se u konačnici događa s njihovim fotografijama.
Curenje podataka
Ukazao je i na opasniji scenario koji uključuje proboj sigurnosti podataka, ističući da procurjele fotografije s detaljnim biometrijskim karakteristikama kasnije mogu biti iskorištene za prevaru, ucjenu ili lažno predstavljanje, pri čemu je takve podatke gotovo nemoguće u potpunosti ukloniti.
Ramadan je naglasio da je svaka digitalna baza podataka podložna hakerskim napadima.
S druge strane, Aboubakr Abdel Karim, bivši pomoćnik egipatskog ministra unutrašnjih poslova za odnose i medije, izjavio je da je lična privatnost sve više ugrožena.
Kazao je da glavna opasnost leži u zadržavanju fotografija, napominjući da se slike ne brišu uvijek odmah nakon obrade. Umjesto toga, mogu se privremeno pohraniti, koristiti za treniranje AI modela ili dijeliti s trećim stranama na osnovu nejasnih politika privatnosti.
Abdel Karim je pozvao na veću svijest o kibernetičkoj sigurnosti, ističući da problem nije u samoj vještačkoj inteligenciji, već u njenoj neinformisanoj upotrebi.
Savjetovao je korisnicima da pažljivo čitaju politike privatnosti, izbjegavaju postavljanje fotografija visoke rezolucije, ne povezuju ovakve aplikacije s primarnim profilima na društvenim mrežama te da se zapitaju vrijedi li trenutak zabave potencijalnog rizika.
