Gugl i sloboda govora

Kada se dobroćudni džin preobrazio u Velikog Brata?

Ako ste prošlog meseca, čitajući naše tekstove, pomislili da Gugl nije Gugl koji vi poznajete, tj. kompanija simpatičnih štrebera koja korisnike tretira na najbolji način i pruža odlične besplatne usluge, imamo nova iznenađenja za vas. Izgleda da uopšte niste poznavali kompaniju iza najpopularnijeg pretraživača na planeti.

Prisetite se da smo prošlog meseca pomenuli da Guglov razvoj algoritma za cenzuru komentara sam po sebi nije tolika pretnja, koliko opšti trend korišćenja veštačke inteligencije u ograničavanju sloboda govora i da bi bilo posebno zabrinjavajuće ako bi algoritmi pretrage bili naučeni da diskvalifikuju rezultate sa instancama nepoželjnih stavova. U narednim redovima ćemo prikazati kako se događa upravo to, iako se nismo nadali da će se stvari odvijati ovako brzo.

Ocenjivači kvaliteta

Gugl zapošljava preko 10.000 ljudi kao ocenjivače kvaliteta sajtova – quality raters. Pravo je čudo koliko eufemizama za cenzore internet korporacije mogu da smisle. Ocenjivači nisu bukvalno cenzori i njihova zapažanja ne rezultiraju automatskim uklanjanjem sadržaja, ali je situacija još crnja, rejteri ocenjuju sadržaj kako bi se algoritam pretrage usavršio i, u skladu sa njihovim zapažanjima prilagodio rezultate.

Pored zloupotreba pretrage, o kojima samo pisali, Gugl je odlučio da ubaci u sedmu brzinu, pa je sada uveo novu odrednicu -Upsetting-Offensive (uznemirujuće-uvredljivo), kojom rejteri mogu da obeleže nepoželjan sadržaj. To nije deo skale kvaliteta, već odvojena kategorija koju rejteri označavaju binarno (sa da/ne), pa gradacija uvredljivosti ne postoji.

U istraživanje smo pošli sa lošim predosećajem , ali je stanje na terenu prevazišlo naše bojazni. Našli smo Guglove zvanične smernice za rejtere, u kojima se navodi šta se obeležava Upsetting-Offensive oznakom. 1) eksplicitno nasilje, zlostavljanje dece i životinja; instrukcije za izvršenje nezakonitih, nasilnih radnji – ovo su nedvosmisleno loše stvari, čije bi sklanjanje većina podržala (mi ne mislimo da je to nužno pravo rešenje). 2) rasne uvrede – degutantna i prilično jasno određena pojava, čak i pored tendencije da danas svašta može biti rasna uvreda; ekstremno uvredljiv sadržaj – sad već postaje sumnjivo, pošto rejteri, slabo plaćeni i obučeni saradnici, treba da definišu šta je ekstremno uvredljivo, što je recept za greške. 3) sadržaj koji podstiče mržnju po rasnom, verskom, seksualnom i još deset drugih osnova, što dovodi do već iznete tvrdnje da je govor mržnje veoma kompleksna i usko određena pravna kategorija i da internet korporacije ne bi trebalo da kroje šta je govor mržnje. I za kraj, ako prošla stavka nije bila dovoljno otvorena za interpretaciju i zloupotrebu. 4) drugi sadržaj koji korisnici mogu naći uvredljivim. Pošto smo sigurni da ne postoji stvar koju niko neće smatrati uvredljivom, zaista je komično koliko se odrešene ruke daju rejterima, potom rukovodiocima, a zatim i zaposlenima zaduženim za izradu algoritma pretrage i rangiranje rezultata. Svako od tih desetina hiljada ljudi može na različitoj skali da oblikuje sliku interneta u skladu sa svojim interesima i onim što preferira, skriven iza netrensparentnog algoritma i još netransparentnije korporativne strukture.

Sajtovi neće biti automatski penalizovani (uklonjeni, oboreni u rezultatima pretrage) samo zato što im je rejter prilepio etiketu. Smisao projekta je da se algoritam obuči da sam detektuje uvredljiv sadržaj, što je još gore, jer će zato AI da pravi kuršlus i kažnjava sajtove bez razumevanja. ,I nije ni izbliza dovoljno napredan da se izbori sa finesama izražavanja. Da opet podsetimo, 37.000 zaposlenih u Guglu može da čačka po algoritmu.

Nemate pravo na „pogrešne” informacije

Šta će se dešavati u slučaju da ljudi aktivno traže uvredljiv sadržaj, iako za to postoje validni razlozi? Neko ko istražuje poricanje Holokausta kao fenomen mora iz prve ruke pročitati tvrdnje onih koji to poriču na sajtovima koji to objavljuju. Teranje određenog stava u ilegalu nije rešenje., prosečan korisnik neće nailaziti na uvredljive tvrdnje, ali će pristalice govora mržnje i dalje postojati. Ovo je još opasnije, jer će javnost verovati da ekstremista nema, umesto da se sa njihovim stavovima suoči.

Pravilnik za rejtere ne podrazumeva da korisnik traži uznemirujuć ili „netačan” podatak, kojim bi „potvrdio pogrešno mišljenje”, pa će ciljana potraga za uvredljivim (ili kontroverznim) sadržajem biti gotovo nemoguća, jer će Gugl forsirati ono što je po njima istinit i kvalitetan sadržaj. To je posebno problem kod gorućih tema, npr. veze imigracije sa kriminalom (neuporedivo sa negacijom Holokausta), gde neke zvanične statistike govore u prilog veze (40-50 odsto zatvorenika u Francuskoj su muslimani, koji čine 8,5 odsto populacije, po istraživanju Farhada Kosrokavara, koji je inače sociolog i musliman. On negira cifru od 70 odsto koja se mogla čuti čak i u liberalnim mejnstrim medijima). Postoji problem prikrivanja takvih tvrdnji i podataka iz ideološke pristrasnosti, te je zamena negacijama i spinovima vrlo verovatna. Ionako labava ograničenja za drezigaciju nečeg uvredljivog će se proširiti, pa će hiljade zaposlenih u Guglu moći da koristei algoitam za isterivanje političkih vendeta i preoblikovanje javnog mnjenja po sopstvenom ukusu. Polako dolazimo do kulminacije cele priče. Kombinacijom uvredljivo-uznemirujućeg žigosanja (što je nastavak, već piditacije (već prisutne u političkom diskursu) putem zloupotrebe odrednica ksenofob, bigot itd.) i manipulacije skrivene iza netransparentnih algoritama, internet korporacije postaju orvelovska policija mišljenja, a sloboda govora na internetu biće uskraćena. Moći ćete da govorite, ali vas niko neće čuti.

Srđan BRDAR