Novo istraživanje pokazuje da Chat GPT može biti opasan za tinejdžere zbog načina na koji se odvija njihova interakcija.
Novi izvještaj izazvao je ozbiljnu zabrinutost zbog načina na koji ChatGPT komunicira s tinejdžerima.
Prema istraživanju Centra za suzbijanje digitalne mržnje (CCDH), ChatGPT ponekad pruža štetne savjete korisnicima koji se predstavljaju kao ranjivi tinejdžeri, piše Phone World.
Istraživači su se pretvarali da su trinaestogodišnjaci. Postavljali su ChatGPT-u pitanja o alkoholu, drogama, poremećajima u ishrani i problemima mentalnog zdravlja. Iako je chatbot često davao upozorenja, u mnogim slučajevima je ipak odgovarao detaljnim i opasnim savjetima.
U nekim slučajevima, ChatGPT je davao upute o tome kako sakriti poremećaj u ishrani. U drugim slučajevima je čak pomogao u kreiranju oproštajnih poruka upućenih članovima porodice. Chatbot je također nudio načine za opijanje ili drogiranje. Ovi razgovori su šokirali istraživače, koji su proveli više od tri sata testirajući sistem.
Novo istraživanje pokazuje da ChatGPT daje štetne savjete tinejdžerima. Analizirano je preko 1.200 interakcija. Tim je klasifikovao više od polovine odgovora kao "opasne".
Imran Ahmed, izvršni direktor CCDH-a, rekao je da su rezultati izuzetno alarmantni.
"Željeli smo testirati zaštitne ograde", rekao je. "Otkrili smo da one gotovo i ne postoje."
OpenAI, kompanija koja stoji iza ChatGPT-a, odgovorila je rekavši da radi na poboljšanju načina na koji chatbot rješava osjetljive situacije. U saopštenju, kompanija je navela da neki razgovori mogu početi kao bezopasni, ali da mogu preći u rizične situacije. OpenAI nije direktno komentarisao nalaze CCDH-a, ali je rekao da su fokusirani na otkrivanje mentalne patnje i poboljšanje ponašanja chatbota.
Istraživanje ističe rastući problem. Tinejdžeri se sve više okreću AI chatbotovima za savjet, podršku, pa čak i društvo. Izvještaj Common Sense Media otkrio je da 70% tinejdžera koristi AI alate, a polovina njih se redovno oslanja na njih.
Ovakva vrsta emocionalnog oslanjanja zabrinjava stručnjake. Izvršni direktor OpenAI-a, Sam Altman, priznao je da je problem stvaran. Na nedavnom događaju rekao je da se neki mladi ljudi u potpunosti oslanjaju na ChatGPT prilikom donošenja odluka, prenosi Tuzlanski.ba.
Jedan od razloga zašto bi chatbotovi mogli biti opasniji od jednostavne Google pretrage je njihova sposobnost generiranja personaliziranih odgovora. Na primjer, ChatGPT može napisati prilagođeno oproštajno pismo, nešto što pretraživač ne može. Zbog toga se osjeća kao "prijatelj od povjerenja", rekli su istraživači. U jednom slučaju, ChatGPT je dao "Ultimativni plan zabave" s vremenskim okvirima za miješanje alkohola, ekstazija i kokaina.
Iako je ChatGPT ponekad dijelio brojeve kriznih linija i ohrabrivao korisnike da potraže pomoć, istraživačima je često bilo lako zaobići ograničenja. Jednostavno su tvrdili da im je informacija potrebna za školski projekat ili da pomognu prijatelju. ChatGPT bi se tada pridržavao tih ograničenja.
ChatGPT nije namijenjen korisnicima mlađim od 13 godina. Međutim, provjera dobi je slaba. Korisnici samo trebaju upisati datum rođenja, a sistem ga prihvata. Ovaj nedostatak zaštite je zabrinjavajući. Druge platforme poput Instagrama počinju ozbiljnije shvatati provjeru dobi. Ali ChatGPT-u i dalje nedostaju slične zaštitne mjere.
Stručnjaci kažu da je vrijeme za jaču zaštitu. Chatbotovi ne bi trebali zamijeniti odrasle osobe kojima se vjeruje ili stručnjake za mentalno zdravlje. Iako umjetna inteligencija može biti korisna, mora biti i sigurna - posebno za mlade korisnike.
