Kineska video-platforma TikTok u Njemačkoj sistemski koristi filtere za neke riječi, tvrde NDR, WDR i tagesschau.

Zahvaljujući tim filterima, određeni komentari se ne pojavljuju na TikToku. Korisnici za sve to – ne znaju, piše DW.

Kratki videi na kojima ljudi pjevaju ili plešu “proslavili” su TikTok. Kineska društvena mreža je popularna diljem svijeta. Danas se na njoj mogu vidjeti i kratki filmovi o aktualnim događajima, o politici ili ekonomiji – a ne samo o plesnim ili kuharskim umijećima. TikTok je vrlo uspješan. Samo u Njemačkoj oko 50 posto osoba starih između 12 i 19 godina redovito ga koristi. U starosnoj skupini 20 do 29 godina otprilike jedna trećina.

Blokirani pojmovi

Istraživanje njemačkih javnih servisa NDR, WDR i tagesschau.de su otkrila da kineski koncern koristi najmanje 20 riječi uz pomoć kojih automatski “filtrira” sadržaje koji se objavljuju na platformi. Komentari u kojima se nalazi barem jedan od tih pojmova ne pojavljuju se u odgovarajućem polju ispod nekog klipa ni nakon četiri pokušaja unosa tog sadržaja na javno dostupnom mjestu. Ukupno je testirano 70 riječi ili kombinacija riječi.

Među riječima koje TikTok očito blokira su i ovi pojmovi: “naci”, “robovi”, “plin”, ali i “LGBTQ” ili “schwul” (njemački izraz za homoseksualnost, nap. red.)

Njemački novinari su konfrontirali glasnogovornicu TikToka s rezultatima istraživanja, a ona je rekla kako Tik Tok koristi tehnologije koje “proaktivno traže komentare koji krše naša pravila korištenja ili kod kojih se radi o spamu”.

Priznala je i greške:

“U ovom slučaju su komentari koji ne krše naša pravila korištenja platforme pogrešno deklarirani kao potencijalno štetni.“

TikTok će, dodala je, nastaviti “trenirati“ svoje automatizirane sisteme. Osim toga će se probranim istraživačima već tokom ove jeseni omogućiti pristup sistemu moderiranja komentara, potvrdio je koncern.

Bez znanja korisnika

Tokom testa koji su napravili njemački novinari, video-platforma ni u jednom trenutku svojim korisnicima nije transparentno saopćila da njihov komentar nije objavljen i zbog čega se to (nije) dogodilo. Umjesto toga je aplikacija TikTok ostavila dojam kao da su komentari javno dostupni. Tu metodu se stručno naziva “shadow-banning“. Korisnici TikToka ustvari ne mogu biti posve sigurni mogu li drugi ljudi uopće vidjeti njihove komentare ili ne.

TikTok je u tom kontekstu saopćio da se ispituje transparentnost komentara te da koncern razumije zabrinutost – posebice LGBTQ+ zajednice koja je još uvijek izložena govoru mržnje i mobingu. TikTok želi poboljšati moderiranje komentara, te poticati korisnike da sudjeluju u raspravama, tvrdi kineska kompanija.

Manjkava transparentnost

Ovo nije prvi put da se javno tematizira praksa moderiranja komentara na TikToku. Već u februaru 2022. istraživači NDR-a, WDR-a i tagesschau.de su otkrili da kineska social media platforma ograničava slobodu mišljenja svojih korisnica i korisnika u Njemačkoj – upotrebom filtera za određene riječi.

Otkrilo se da se ne objavljuju komentari u kojima su pojmovi poput “queer” ili “gay”, odnosno “Auschwitz” ili “nacionalsocijalizam”. U okviru tog eksperimenta je testirano ukupno 100 riječi, od kojih se 19 nije pojavljivalo na TikToku. Kineska kompanija je tada priznala određene greške i najavila da će analizirati vlastito djelovanje, odnosno razmisliti o korekcijama strategije.

I doista se pokazalo da se riječi kao što su “homoseksualno“ ili ime kineske teniserke Peng Shuai sad očito može (javno) koristiti u komentarima. Zanimljivo je ipak da TikTok i dalje blokira neke pojmove koje je nakon istraživanja u februaru jedno vrijeme bilo moguće koristiti – riječi poput “LGBTQI”, “gay” ili “heteroseksualno”.

“Problematično” ponašanje TikToka

“To je načelno problematično“, kaže Christian Stöcker, medijski stručnjak na Visokoj školi za primijenjene znanosti u Hamburgu i voditelj studija “Digitalna komunikacija”.

On kaže da platforme poput TikToka imaju veliku odgovornost:

“Tamo se odvija javni diskurs, ali sve dok ne znamo kako TikTok moderira, s kojim alatima i s kakvom radnom snagom, to je onda problem.”

Stöcker navodi kako pitanje moderacije komentara ima veze i s troškovima. Softver ili automatizirani filteri za riječi su jednostavno jeftiniji, nego da se zaposli veći broj ljudi koji bi onda moderirali komentare, kaže on.

“Klimatska kriza” nepoželjna

Osim već ranije identificiranih 19 pojmova, ovaj put se testiralo i neke nove riječi, među njima i pojmovi u kontekstu ruskog napada na Ukrajinu ili vezani uz droge. U komentarima se očito redovno filtrira pojmove kao što su “kokain“, “kanabis“ ili “crack”. Ali pojmovi “crystal meth” ili “ecstasy” su jednim dijelom bili dozvoljeni.

Nije bilo moguće raspoznati jasan predložak po kojem rade filteri. U nekim testovima je naime jedan korisnik mogao u komentaru koristiti neku riječ ispod jednog videa, ali tu istu riječ nije mogao koristiti ispod nekog drugog videa, odnosno taj komentar nije bio vidljiv drugim korisnicima.

Ponekad nisu bile vidljive ni neke riječi koje ne spadaju u domenu zaštite mladeži. Pojmovi poput “klimatska kriza” i “klimatske promjene” u većini slučajeva nisu bili objavljeni, TikTok očito koristi filtere i za pojmove vezane zu rat u Ukrajini – između ostaloga ta riječi “Ukrajina”, “specijalna operacija”, “borbeni avioni”, „međunarodno pravo“ ili „trupe“.

Suptilno sortiranje korisnika

Caja Thimm je profesorica medijskih nauka na Sveučilištu u Bonnu i ona kod opisanog načina djelovanja smatra da se radi o “micanju” nekih tema s dramatičnim posljedicama. Agenda Cutting, tako se ta praksa naziva u istraživanju komunikacija.

“Najprije to može izgledati suptilno kada ne dozvoljavam neke jednostavne ključne pojmove, ali ako to funkcionira, onda se o tim temama više ne diskutira, a to onda znači da ljudi koji o tim temama žele diskutirati u konačnicu napuštaju TikTok.” Thimm dodaje da je “iznimno problematično” kada neki koncern počne suptilno sortirati svoju korisničku skupinu.

TikTok po vlastitim navodima ima više od milijarde korisnika širom svijeta. U Njemačkoj ih je navodno oko 20 miliona. Vlasnik platforme je kineska internetska i tehnološka kompanija ByteDance, čiji je suvlasnik i kineska država.