Vaša privatna poruka može ostati šifrirana i nečitljiva platformi putem koje se šalje, ali može biti i pregledana automatiziranim alatima prije nego što stigne primatelju. Upravo je ta razlika u središtu rasprave o europskom prijedlogu “Chat Control”, čiji je cilj borba protiv seksualnog iskorištavanja djece na internetu, bez narušavanja privatnosti komunikacije.
Ako danas pošaljete poruku putem Signala ili WhatsAppa, na nju se trenutačno ne primjenjuju pravila EU-a. Ako istu fotografiju pošaljete putem aplikacije koja ne koristi end-to-end enkripciju, moguće je da će je automatizirani sustav provjeriti prije nego što je itko vidi. Upravo ta razlika, a ne tvrdnja da “EU čita vaše privatne poruke”, srž je rasprave o Chat Controlu i otkrivanju materijala koji prikazuje seksualno zlostavljanje djece (CSAM).
Privremena uredba, koja je ponovno stupila na snagu i vrijedit će do 2028. godine, omogućuje platformama da dobrovoljno pregledavaju privatne poruke, fotografije i videozapise u potrazi za CSAM-om. To se ne odnosi na end-to-end šifrirane usluge poput WhatsAppa ili Signala na isti način kao na druge platforme. Poseban trajni prijedlog, poznat kao “Chat Control 2.0”, još je u fazi pregovora. Hoće li se na kraju odnositi i na šifrirane razgovore, ostaje glavno neriješeno pitanje, prenosi Euronews.
Kako sustav odlučuje što će označiti?
Alati za otkrivanje funkcioniraju na dva glavna načina. Prvi je usporedba tzv. hash vrijednosti: fotografija ili video pretvaraju se u jedinstveni digitalni otisak koji se uspoređuje s bazom podataka već potvrđenog ilegalnog sadržaja. Takav je sustav brz i vrlo precizan kada je riječ o identičnim ili gotovo identičnim kopijama, ali ga je lako zaobići manjim izmjenama slike ili videa.
Drugi način temelji se na umjetnoj inteligenciji i strojnom učenju. Koristi se za prepoznavanje novog ili izmijenjenog sadržaja te, što izaziva više prijepora, za analizu tekstualnih poruka u potrazi za obrascima jezika koji bi mogli upućivati na seksualno vrbovanje djece.
Patrick Breyer, aktivist za digitalna prava, pravnik i bivši zastupnik u Europskom parlamentu iz redova Zelenih/Europskog slobodnog saveza, smatra da su obje metode manje pouzdane nego što kreatori politika pretpostavljaju.
Za usporedbu hash vrijednosti, koju smatra pouzdanijom od umjetne inteligencije, kaže da “ima vrlo visoku stopu lažno pozitivnih rezultata, odnosno lažno optužuje ljude”. Kao primjer navodi Njemačku, gdje, prema posljednjim podacima, “više od 50 posto prijava zapravo nije kaznenopravno relevantno”.
Dio problema, objašnjava, nastaje već pri stvaranju baza podataka. One se često sastavljaju i provjeravaju izvan Europe, a sadržaj nije nužno procijenjen prema europskim kaznenim zakonima.
“Neki zaposlenici pružatelja usluga, gdje god se nalazili u svijetu, unose sadržaj u baze podataka”, kaže Breyer, “bez odgovarajuće pravne procjene namjere”, koja je ključna da bi nešto uopće bilo kazneno djelo.
Gdje se provodi pregled sadržaja?
Na platformama koje ne koriste enkripciju pregled se može provoditi na poslužiteljima same tvrtke.
Kod aplikacija koje koriste end-to-end enkripciju pružatelj usluge ne može pročitati poruku nakon što je šifrirana. Zato bi se svaka provjera morala provesti ranije – na samom uređaju prije nego što se primijeni enkripcija ili u posebnom sigurnosnom hardverskom sloju razvijenom upravo za tu svrhu.
Takav se pristup naziva client-side scanning (pregled sadržaja na korisničkom uređaju). Upravo zbog njega rasprava o enkripciji ne jenjava: poruka se pregledava dok je još čitljiva, odnosno “prije nego što se brava zaključa”, a ne nakon što je već zaštićena enkripcijom.
Što se događa nakon što sustav nešto označi?
Sadržaj koji sustav označi ne završava automatski u policijskoj evidenciji.
Prema navodima pružatelja usluga poput Googlea, fotografiju ili poruku koju označi sustav – bilo usporedbom hash vrijednosti ili pomoću umjetne inteligencije – najprije pregledavaju posebno obučeni zaposlenici tvrtke. Tek ako oni potvrde da je riječ o nezakonitom sadržaju, slučaj se prijavljuje nadležnim tijelima.
Breyer smatra da upravo u toj fazi dolazi do problema kada se obrađuju velike količine podataka.
Recenzenti primjenjuju različite pravne standarde, često ne utvrđuju postoji li namjera počinjenja kaznenog djela te nerijetko pogrešno klasificiraju uobičajenu razmjenu eksplicitnih fotografija među tinejdžerima ili slike koje su maloljetnici sami snimili i podijelili iz šale u grupnim razgovorima.
Kako ističe, mnogi maloljetnici obuhvaćeni takvim prijavama nikada nisu namjeravali dijeliti nezakonit sadržaj – samo su nešto proslijedili u grupnom chatu “u sasvim drugom kontekstu”.
Sustav usporedbe hash vrijednosti uspoređuje slike s bazom već potvrđenog ilegalnog sadržaja. Tekstualne poruke predstavljaju znatno veći izazov.
Jezik koji koriste osobe koje seksualno vrbuju djecu može biti vrlo sličan uobičajenoj komunikaciji među tinejdžerima ili odraslima. Zbog toga istraživači upozoravaju da je upravo analiza teksta najpodložnija pogreškama. To je posebno važno u kontekstu trajnog prijedloga Chat Controla jer bi proširenje nadzora sa slika na razgovore znatno povećalo broj lažno pozitivnih rezultata.
Koja je alternativa?
Breyer ne odbacuje potpuno mogućnost otkrivanja nezakonitog sadržaja. Protivi se masovnom nadzoru.
Smatra da bi pregled sadržaja trebao biti dopušten samo kada “neovisni sud potvrdi” postojanje opravdane sumnje protiv određene osobe, slično sudskom nalogu za otvaranje nečije pošte.
Pregledavanje komunikacije svih građana “za svaki slučaj”, kaže, predstavlja potpuno drukčiju razinu zadiranja u privatnost.
Kao alternativu predlaže dva rješenja:
- proaktivno pretraživanje otvorenog interneta i dark weba u potrazi za već poznatim ilegalnim sadržajem te njegovo prijavljivanje radi uklanjanja, što se već koristi u Ujedinjenom Kraljevstvu i Kanadi, ali još ne i u EU-u;
- pristup “sigurnost kroz dizajn”, pri kojem aplikacije korisnika upozoravaju prije nego što podijeli telefonski broj ili eksplicitnu fotografiju, pri čemu sadržaj nikada ne napušta sam uređaj.
Što to znači za vaše podatke?
Za sada sve ovisi o tome koju aplikaciju koristite.
Na platformama koje ne koriste end-to-end enkripciju sadržaj se može pretvoriti u digitalni otisak ili pregledati algoritmima prije ili neposredno nakon slanja, zatim ga mogu pregledati obučeni zaposlenici tvrtke, a ako potvrde da je nezakonit, prijaviti ga nadležnim tijelima.
Kod aplikacija koje koriste end-to-end enkripciju takav postupak trenutačno se ne primjenjuje. Međutim, trajni prijedlog Chat Controla još nije konačno dogovoren, pa bi se u budućnosti moglo promijeniti kada i na kojem mjestu bi se takve provjere provodile., prenosi N1.
