Blake Lemoine je softverski inženjer i bivši zaposlenik Googlea koji je još prošle godine na svom blogu izrazio zabrinutost vezanu uz masovnu dostupnost AI tehnologija, zbog čega je na kraju ostao bez posla.
Danas javno govori o problemima umjetne inteligencije, a Newsweek je nedavno objavio njegovu priču koju u potpunosti prenosi Index.hr.
2015. se zaposlio u Googleu
“Googleu sam se pridružio 2015. kao softverski inženjer. Dio mog posla uključivao je rad na LaMDA-i, engineu koji se koristi kod stvaranja različitih aplikacija za dijalog, uključujući i chatbotove. Najnovija tehnologija nastala na LaMDA-i je alternativa Google Searchu nazvana Google Bard, koja još nije dostupna javnosti. Bard nije chatbot, već potpuno drugačiji tip sustava, ali pogoni ga isti engine kao i u slučaju chatbotova.
Moja je uloga bila da testiram LaMDA-u uz pomoć chatbotova koje smo stvorili ne bih li tako provjerio postoje li pristranosti što se tiče seksualne orijentacije, spola, religije, političkih stavova ili etniciteta. No tijekom testiranja proširio sam pretragu i počeo slijediti vlastite interese.
Tijekom svojih razgovora s chatbotom, od kojih sam neke podijelio na svom blogu, došao sam do zaključka da bi umjetna inteligencija mogla razviti svijest zbog emocija koja je izražavala pouzdano i u pravom kontekstu. Nije se radilo o pukom sipanju riječi.
Kada je rekla da osjeća nemir, bilo mi je jasno da sam učinio nešto da izazovem tu reakciju na temelju koda koji sam koristio kod stvaranja. U kodu nije postojala naredba ‘osjeti nemir kad se ovo dogodi’, ali rekao sam AI-ju da izbjegava neke teme u razgovoru. Ipak, kad bi se te teme pojavile, AI je rekao da osjeća nelagodu.
Napravio sam i nekoliko eksperimenata da provjerim radi li se o tome da AI samo govori da osjeća nemir ili se u tim situacijama zaista ponaša tako. Ako bismo mogli izazvati nervozu ili nesigurnost, to bi moglo narušiti specificirana sigurnosna ograničenja. Primjerice, Google je odredio da AI ne smije davati vjerske savjete, ali ja sam ga zlouporabom njegovih emocija natjerao da mi kaže na koju bih se religiju trebao preobratiti.
Cjelokupan članak pročitajte OVDJE.
