Vodeća humanitarna organizacija za zaštitu djece poziva britanskog premijera Rishija Sunaka da fotografije seksualnog zlostavljanja djece koje stvara vještačka inteligencija (AI) budu tema Svjetskog samita o vještačkoj inteligenciji i bezbjednosti koji će biti održan u Velikoj Britaniji ove jeseni.
Fondacija za nadzor interneta uklanja sadržaje zlostavljanja sa interneta i kaže da je broj fotografija koje stvara AI u porastu. Fondacija je prvi put prošlog mjeseca počela da bilježi AI fotografije. Otkrila je predatore širom svijeta koji dijele galerije fotografija koje ponekad djeluju stvarne.
„Broj ovakvih fotografija trenutno nije ogroman, ali smo svjesni da postoji mogućnost da kriminalci proizvedu dosad neviđen broj vjerodostojnih fotografija seksualnog zlostavljanja djece”, rekla je Susie Hargreeves, izvršna direktorka Fondacije.
BBC je vidio redigovane verzije pojedinih fotografija koje su prikazivale djevojčice uzrasta oko pet godina kako poziraju nage. Fondacija za nadzor interneta je jedna od samo tri humanitarne organizacije u svijetu koje aktivno traže sadržaje seksualnog zlostavljanja djece na internetu.
Počeli su da prave registar fotografija koje stvara vještačka inteligencija 24. maja i kažu da su do 30. juna analitičari istražili 29 sajtova i potvrdili da sedam web-stranica dijeli galerije koje sadrže AI fotografije.
Organizacija nije potvrdila tačan broj takvih fotografija, ali kaže da su desetine AI slika bile pomiješane sa fotografijama stvarnog zlostavljanja na zabranjenim web-stranicama. Pojedine su bile, kako ih stručnjaci svrstavaju, fotografije kategorije A – najvjerodostojniji prikaz penetracije koju grafika može da dočara.
Fotografije seksualnog zlostavljanja djece su zabranjene u skoro svim zemljama.
„Sada imamo priliku da preduhitrimo ovu novu tehnologiju, ali se to mora definisati zakonom, ali na svrsishodan način u svjetlu ove nove prijetnje”, rekla je Hargreeves.
Sunak je u junu najavio planove Britanije da bude domaćin prvog svjetskog samita o vještačkoj inteligenciji i bezbjednosti. Vlada je obećala da će se okupiti stručnjaci i zakonodavci kako bi razmotrili rizike vještačke inteligencije i moguće načine da se oni ublaže koordinisanim međunarodnim naporom, prenosi Oslobođenje.
Analitičari Fondacije za nadzor interneta bilježe trendove kod fotografija zlostavljanja kao što su nedavni porast takozvanih „samostvorenih” sadržaja zlostavljanja, gdje su djeca primorana da šalju njihove snimke ili fotografije napasnicima.
Organizacija je rekla da će broj fotografija koje stvara vještačka inteligencija samo da raste, mada broj otkrivenih slika čini samo djelić drugih sadržaja zlostavljanja. Tokom 2022. godine, Fondacija je zabilježila i pokušala da ukloni sa interneta više od 250.000 web-stranica na kojima su bile fotografije seksualnog zlostavljanja djece.
Analitičari su također bilježili razgovore na forumima između predatora koji su razmjenjivali savjete o tome kako da naprave najvjerodostojnije fotografije djece. Pronašli su način da prevare i natjeraju vještačku inteligenciju da pravi fotografije zlostavljanja, kako da skinu otvorene kodove modela vještačke inteligencije i da premoste bezbjednosne prepreke.
Iako većina generatora AI fotografija ima ugrađena stroga pravila koja sprječavaju korisnike da stvaraju sadržaje sa zabranjenim riječima ili izrazima, alati otvorenog koda mogu da se preuzmu besplatno i podese prema želji korisnika. Najpoznatiji izvor je Stable Diffusion.
Kod modela je na mrežu postavila grupa njemačkih stručnjaka za vještačku inteligenciju u augustu 2022. godine.
BBC je razgovarao sa čovjekom koji pravi AI fotografije i koji koristi specijalizovanu verziju modela Stable Diffusion za pravljenje seksualnih fotografija djevojčica mlađih od 13 godina. Japanac je tvrdio da su njegove „ljupke” fotografije opravdane, dodavši da je „ovo prvi put u historiji da fotografije djece mogu da se naprave bez stvarnog iskorišćavanja djece”.
Međutim, stručnjaci kažu da takve fotografije mogu da nanesu veliku štetu.
„Nemam ni trunku sumnje da će fotografija koje stvara vještačka inteligencija povećati ovakve sklonosti, ojačati ovu devijantnost i prouzrokovati veću štetu i veći rizik da se naudi djeci širom svijeta”, rekao je dr Michael Bork, stručnjak za seksualne prestupnike i pedofile pri američkoj Službi federalnih maršala.
Profesor Bjorn Omer, jedan od ljudi koji su razvili model Stable Diffusion, podržao je odluku da model bude otvorenog koda. Rekao je BBC-ju da su se od tada iz njega izrodile stotine istraživačkih projekata, među kojima su mnogi za pospješivanje poslovanja.
Profesor Omer kaže da je to opravdanje za odluku koju su donijeli on i njegov tim i naglašava da nije ispravno obustaviti istraživanja i razvoj.
„Zaista moramo da se sučimo sa činjenicom da se ovo dešava širom svijeta, da je razvoj globalan. Ako ga zaustavite ovdje, nećete zaustaviti razvoj ove tehnologije globalno u drugim zemljama, koje su vjerovatno nedemokratske. Moramo da osmislimo sporije korake da bismo mogli da sagledamo ovaj brzi razvoj”, rekao je on.
Kompanija Stability AI, koja je pomogla finansiranje razvoja modela prije puštanja na internet, jedna je od najpoznatijih kompanija koje razvijaju nove verzije modela Stable Diffusion.
Predstavnici kompanije nisu željeli da daju izjave, ali su ranije rekli da je zabranjena svaka upotreba njihovih verzija vještačke inteligencije u nezakonite ili nemoralne svrhe.
