Po prvi put Evropska unija namjera regulirati primjenu umjetne inteligencije, dakle kompjuterskih programa koji imaju sposobnost učiti. Evropski parlament 14. juna počinje u Strasbourgu raspravljati o odgovarajućem prijedlogu zakona.

Šef kalifornijske kompanije OpenAI, koja je na tržište izbacila generator tekstova ChatGPT, prilikom posjeta Njemačkoj je upozorio na opasnost prevelike regulacije. Ali svoju prijetnju da zbog toga možda ChatGPT neće biti dostupan u Evropi Sam Altman je u međuvremenu povukao. Pravila za umjetnu inteligenciju su načelno dobra, kaže Altman, ali „trebamo jasnoću”, dodaje on. Sam Altman je utjecajan na sceni umjetne inteligencije, a u Berlinu ga je primio i savezni kancelar Olaf Scholz.

Neće biti zabrana, nego se uspostavljaju evropski standardi

Taj lobistički rad kompanije OpenAI, odnosno matičnog koncerna Microsoft, na najvišoj razini ne zabrinjava zastupnika u Evropskom parlamentu Renea Repasija. Evropsko tržište je previše privlačno za ponuđače umjetne inteligencije da bi ga oni zaobišli, kaže on. „Tko ovdje želi prodavati svoju umjetnu inteligenciju mora se ravnati prema našim standardima”, kaže Repasi koji tu temu prati za evropske socijaldemokrate. I američki Kongres nastoji uvesti pravila za umjetnu inteligenciju, piše Deutsche Welle.

Evropski zastupnici su u kontaktu s američkim kolegama, kaže Repasi. „Na kraju želimo stvoriti standarde koji imaju smisla, a ne stajati u međusobnoj konkurenciji.” Američki tehnološki koncerni imaju puno kapitala, nevjerojatne količine podataka i jedinstven povlašteni položaj, koji bi htjeli sačuvati, naglašava Repasi. Ali, to ne znači da bi pravila u Evropi sprječavala inventivne start-upove da dalje razvijaju umjetnu inteligenciju. „To da je tako puno tehnoloških divova u SAD-u prije ima veze s lošim tržištima na kojima djeluju monopolisti, a manje s pitanjem gdje postoje veće inovacije.”

Upozorenja na opasnosti umjetne inteligencije

Jedan od tvoraca umjetne inteligencije, bivši suradnik Googlea Geoffrey Hinton, nedavno je u intervjuima upozoravao na opasnosti vlastitog proizvoda. Generativna umjetna inteligencija mogla bi možda uskoro biti inteligentnija od ljudi koji su ju stvorili, kaže on. Još se ne mogu sagledati promjene na tržištu rada. Čak i ljudi koji razvijaju te sisteme i vodeći ljudi Microsofta ili Googlea priznaju da ni oni sami više ne znaju kako tačno funkcioniraju primjene umjetne inteligencije. U jednom otvorenom pismu su znanstvenici i poduzetnici, među kojima je i vlasnik Twittera Elon Musk, predložili da se do kraja godine napravi stanka kako bi se postavilo granice razvitku umjetne inteligencije.

EU reagira novim zakonom o kojemu se raspravlja već dvije godine. Načelno on predviđa da se primjene umjetne inteligencije podijeli u različite razrede rizika. Vrlo rizični sistemi, koji neprihvatljivo analiziraju i predviđaju društveno ponašanje ljudi, trebali bi biti zabranjeni. Rizični sistemi trebali bi biti podvrgnuti pravilima i ograničenjima. Jednostavne primjene, među koje bi zacijelo pripadao i generator tekstova ChatGPT, ne bi trebale biti osobito ograničavane.

Ali, usluge koje budu stvorene uz pomoć umjetne inteligencije trebale bi biti posebno označene. Zastupnik u Evropskom parlamentu Rene Repasi kao primjer navodi zahtjev za potrošački kredit. Njega već danas često provjeravaju automatski programi. „Ako provjera ispadne negativna, mi želimo da se može zahtijevati da sve provjeri čovjek. Ali, za to je potrebno znati da je čovjek prije toga razgovarao s umjetnom inteligencijom.”

Zakon o umjetnoj inteligenciji za dvije godine

Zakon o umjetnoj inteligenciji u Evropskoj uniji bi mogao stupiti na snagu početkom 2025. godine. Nije potrebno samo da ga usvoji Evropski parlament nego da ga prihvati i svih 27 zemalja članica. Programi umjetne inteligencije kao ChatGPT prije dvije godine još nisu bili na tržištu i mogli bi biti jako unaprijeđeni dok u Evropskoj uniji stupi na snagu zakon, kaže zastupnik u EP-u Axel Voss. „Ali, razvitak se događa i to tako brzo da puno toga uopće više ne pristaje u vrijeme kad zakon bude počeo djelovati”, izjavio je Voss u razgovoru za DW već u aprilu.

On se za kršćansko-demokratski zastupnički klub već godinama bavi umjetnom inteligencijom i jedan je od vodećih ljudi koji izrađuju Zakon o umjetnoj inteligenciji EU-a. Voss upozorava na opasnost strogih zabrana. „Zapravo bismo – s obzirom na konkurentnost i s obzirom na to da već zaostajemo – trebali više  pionirskog duha, kako bismo se intenzivnije bavili umjetnom inteligencijom. Ali, ono što se čuje od većine u evropskom parlamentu jesu strahovi i brige te pokušaji da se sve isključi.” Povjerenici za zaštitu podataka zemalja članica zahtijevaju neovisni nadzor primjena umjetne inteligencije i daljnju prilagodbu propisa o zaštiti podataka.

Zakon o umjetnoj inteligenciji trebao bi biti fleksibilan, smatra socijaldemokratski zastupnik Rene Repasi. Pitanje, što je kod umjetne inteligencije vrlo rizično ili manje rizično, ne bi trebalo biti regulirano u tekstu zakona, nego u dodatku. Njega se onda može po potrebi vrlo brzo promijeniti i prilagoditi tehnološkom razvitku.

„Tehnički pregled” za umjetnu inteligenciju

Kompanije koje bi htjele u Evropi prodavati rizične primjene umjetne inteligencije morale bi, prema prijedlogu zakona, ispuniti stroge uvjete i uspostaviti menadžment rizika za svoje proizvode. Podaci uz pomoć kojih se trenira programe umjetne inteligencije morali bi također biti provjereni. Ljudi koji na raspolaganje stavljaju podatke morali bi biti obaviješteni u koju svrhu se oni koriste.

Talijanska ustanova za zaštitu podataka u aprilu je bila na neko vrijeme zabranila Chat GPT zbog nedostataka kod zaštite podataka i ponovo ga dopustila tek nakon što je kompanija OpenAI provela neke promjene. U Njemačkoj su Udruga za tehnički pregled TÜV, Savezna ustanova za sigurnost informacijske tehnologije i Fraunhoferov institut za inteligentne analitičke i informacijske sisteme razmišljali o uvođenju certifikata za programe umjetne inteligencije. Slično kao kod automobila, koji mora proći tehnički pregled, i umjetnu inteligenciju bi trebali certificirati neovisni stručnjaci. Kod primjena kao što je autonomna vožnja automobila ili operacijski roboti u medicinskoj tehnici potrebno je veliko povjerenje u umjetnu inteligenciju, a ono bi moglo biti postignuto izdavanjem certifikata.