Građane diljem svijeta sve se više nadzire, a distopijski prizori nadzornih kamera spojenih na softvere za prepoznavanje lica i biometrijsku obradu podataka postaju realnost u brojnim državama. Da bi primjena ove tehnologije mogla imati negativne posljedice na građanske slobode i ljudska prava generalno, upozorava sve više aktivista za digitalna prava.
Dio njih, okupljen u SHARE Fondaciju iz Srbije, ovih je dana u Zagrebu predstavio opsežno izvješće “Beyond the face-Biometrics and Society” u čijem su pisanju, među ostalima, sudjelovali i Duje Prkut i Duje Kozamara iz Politscopea, zagrebačke watchdog organizacije s fokusom na zaštitu privatnosti građana. Rad donosi primjere primjene tehnologije za prepoznavanje lica diljem svijeta te pregled prakse kako je ona pravno regulirana.
Brojne nevladine organizacije navode da Akt o umjetnoj inteligenciji, koji je prije dva mjeseca usvojen u Europskom parlamentu, ostavlja prostora za zabrinutost o korištenju tehnologije biometrijskog nadzora na javnim mjestima u određene svrhe.
Masovni nadzor, čak ne u određene svrhe već kroz neselektivno provođenje, polako kuca na vrata susjedstva, u Srbiju. Povodom objave knjige, ali i pokušaja uvođenja ove tehnologije na ulice Beograda, porazgovarali smo s Danilom Krivokapićem iz SHARE Fondacije, inače najveće regionalne organizacije za zaštitu digitalnih prava.
Srbija pod kamerama
Prva biometrijska kamera u Beogradu primijećena je u lipnju 2019. godine. Trenutno je na 600 lokacija postavljeno preko tisuću kamera, kaže Krivokapić, prema informacijama koje imaju od policije.
“One rade ‘tradicionalan’ video nadzor. Kamere snimaju, ti snimci se negdje pohranjuju, ali nije nabavljen softver za prepoznavanje lica. Posljednje informacije koje smo dobili od Ministarstva unutarnjih poslova jesu da se čeka da se pitanje te tehnologije regulira na zakonski način”, priča Krivokapić.
Postavljanje kamera dio je projekta “Siguran grad” i duže priče koja je počela još 2011. godine kada su Vlada Srbije i Huawei započeli razgovore o provedbi projekta „Sigurno društvo“ koji je uključivao i uvođenje sustava masovnog nadzora. Unazad deset godina, potpisan je zajednički memorandum i postavljanje 1 000 kamera na 800 lokacija u sklopu projekta “Siguran grad” najavljeno je na stranici Huaweija.
Ministarstvo unutarnjih poslova Srbije je u rujnu 2021. godine objavilo Nacrt zakona o unutarnjim poslovima koji je sadržavao odredbe za korištenje tehnologije masovnog biometrijskog nadzora u javnim prostorima. Usvajanjem tog zakona Srbija bi postala prva europska zemlja koja bi legalizirala i provodila neselektivni nadzor svojih stanovnika u javnim prostorima. Nacrt je povučen iz javne rasprave, što je bila sudbina i drugog prijedloga koji je pušten u javnu raspravu.
Pitali smo Krivokapića očekuju li da će vlada izaći i s trećim nacrtom zakona. Odgovara kako se u Srbiji trenutno formira vlada te kako će uskoro dobiti novog ministra unutarnjih poslova. Ne sumnja da će se zakon naći brzo u proceduri jer je riječ o velikom i kompleksnom zakonu s više od 300 članaka za koji je bitno da se donese jer uređuje rad policije.
Dva puta nije donesen upravo radi odredbi o biometrijskom nadzoru.
“Moramo uzeti u obzir da je donijet Zakon o umjetnoj inteligenciji u EU koji je ipak na neki način dozvolio da se koristi biometrijski nadzor u javnim prostorima. Čini mi se da je to neki trend koji naša policija neće propustiti, iako nismo u EU. Mi smo se kao organizacija zalagali za potpunu zabranu biometrijskog nadzora u javnom prostoru, a taj Akt opet, uz osnovnu zabranu, dozvoljava određene izuzetke, kao što su istrage za određena krivična djela, potraga za nestalim osobama, ugrožavanje sigurnosti”, kaže Krivokapić.
Postavljanje kamera nije planirano samo u Beogradu; istraga Balkanskog servisa Radija Slobodna Europa pokazala je kako su 42 grada i općina naručili opremu za video nadzor preko Macchina Securityja, tvrtke koja posljednjih godina pobjeđuje na natječajima i uvozi kinesku tehnologiju za nadzor u Srbiju. Istraga Radija Slobodna Europa pokazala je da je najmanje 10 općina kupilo kamere upravo s mogućnostima prepoznavanja lica.
“Trend je nabavke opreme za masovni video nadzor, čak u nekim specifikacijama se navodi da te kamere moraju imati mogućnosti za prepoznavanje lica. Iako je primjena takvog softvera i dalje pravno nedozvoljena, možemo reći da je to početak postavljanja infrastrukture za masovni nadzor. Kupite i postavite kamere, a sutradan samo nadoknadite taj softver i imate mogućnost da kontrolirate javne prostore, kako u Beogradu tako i ostalim gradovima”, kaže Krivokapić.
Pitali smo ga koliko je javnost zainteresirana za ovo pitanje. Peticijom je SHARE Fondacija prikupila 14 000 potpisa za zabranu biometrijskog nadzora, a brojni su građani putem crowdfunding kampanje udruge donirali novac za borbu protiv uvođenja masovnog nadzora.
“To koliko je javnosti stalo govori i činjenica da smo uspjeli dva puta oboriti zakon. Pitanje digitalnih tehnologija nije neko ‘vruće pitanje’ u smislu da se oko te teme dobivaju ili gube glasovi. U ovom konkretnom slučaju je postala jer upravo su taj strah i bojazan kod građana najviše utjecali na to da se dva puta povuče zakon. To nije praksa u Srbiji, rijetko se događa da se pod pritiscima javnosti događa da se određena zakonska regulativa povlači iz procedure”, kaže Krivokapić.
Kina prvak u korištenju tehnologije nadzora
Najkonkretniji primjer države u kojoj se uporaba ove tehnologije koristi u orvelijanskim razmjerima je Kina.
Diljem te zemlje je 2018. godine postavljeno oko 200 milijuna kamera, a njihov broj konstantno se povećava. Neke od kamera povezane su s tzv. “sustavom socijalnih kredita”, što je koncept koji je kineska vlast počela razvijati još 2014. godine.
Osim što je Kina među prvacima u korištenju ove tehnologije, kineske tvrtke sve češće sklapaju ugovore za takve poslove u siromašnijim zemljama. Najviše uspjeha na tom planu, ali i razvoju same tehnologije, ima Huawei.
Kako se navodi u izvješću SHARE Fondacije, Huawei je razvio koncept “Safe city” (Sigurni grad) koji čini upravo kombinacija urbane javne sigurnosne infrastrukture i softvera s naprednim mogućnostima.
Istraživači u Centru za strateške i međunarodne studije (CSIS) otkrili su da Huaweijeva ponuda “Sigurnog grada” pokriva širok raspon proizvoda i usluga, kao što su zapovjedni centri, CCTV kamere, inteligentni videonadzor, prepoznavanje lica, registarskih pločica vozila i praćenje gužve. Prema nalazima CSIS-a, tehnologija se primjenjuje uglavnom na tržištima i zemljama sa srednjim dohotkom i neliberalnim zemljama u Aziji i Africi.
Osim Srbije, na popisu zemalja koje koriste Huaweijev sustav su i Turska, Rusija, Ukrajina, Azerbajdžan, Angola, Laos, Kazahstan, Kenija i Uganda, kao i Njemačka, Francuske i Italije. Tehnologija za prepoznavanje lica te kineske tvrtke koristi se u gotovo 230 gradova (CBS News).
U zemljama deficitarnim demokracijom, takvi se sustavi zloupotrebljavaju na štetu aktivista. U izvješću se tako navodi primjer Mjanmara gdje je tehnologija prepoznavanja lica odigrala značajnu ulogu u gušenju mirnih demokratskih prosvjeda nakon vojnog udara u veljači 2021. Prosvjedi su bili potaknuti vojnim preuzimanjem vlasti i pritvaranjem izabranih dužnosnika. Nova vlada koristila je CCTV kamere s tehnologijom za prepoznavanje lica kako bi pratila i identificirala prosvjednike, što je dovelo do njihova uhićenja, pritvaranja i pogubljenja.
“Takvi sistemi služe za kontrolu društva. Oni čak ne moraju u potpunosti funkcionirati da bi se nekakav efekt utjecaja na društvo već dogodio. Imali smo situaciju da su ljudi masovno prijavljivali da se biometrijski nadzor koristio za vrijeme prosvjeda u Beogradu. Iako je Povjerenik za zaštitu podataka utvrdio da se nije koristio, očito je bilo dovoljno da ljudi misle da se on već koristi da se kod njih javi određena vrsta straha zbog mogućnosti da će biti snimljeni, i da će zbog toga imati posljedice. Zato je ova vrsta tehnologije i organiziranja javnih prostora vrlo pogodna za autokratske režime”, kaže Krivokapić.
Upitali smo ga koliko uopće primjena ove tehnologije utječe na sigurnost na ulicama. Odgovara nam kako ona pomaže u smanjenju lakšeg oblika kriminala, poput sitnih uličnih krađa.
“Međutim, čini mi se da ne postoji razmjernost u tome da, zbog toga što ćete možda spriječiti neku sitnu krađu, uvedete jedan takav masovni nadzor koji suštinski mijenja to kako ljudi doživljavaju svoju osobnu slobodu i javni prostor kao takav. Ono što se definitivno nije pokazalo kao efikasno, ne samo kada je u pitanju biometrijski nadzor, nego bilo koji drugi masovni nadzor, jest da to ne pomaže u suzbijanju terorizma i organiziranog kriminala. Viši oblici kriminala mogu lako prevazići tu vrstu nadzora, a upravo se oni često navode kao razlog za njegovo uvođenje”, kaže.
Razvoj tržišta
Procjena je da se tehnologija za prepoznavanje lica koristi u više od 100 zemalja svijeta. Prema Deloitteu, očekuje se da će globalno tržište tehnologije prepoznavanja lica vrijediti oko 8,5 milijardi američkih dolara do 2025., što je značajan porast od 3,8 milijardi, koliko je vrijedilo u 2020. godini.
Jednom odobrene i testirane, te je sustave nadzora vrlo teško ukloniti, navodi se u izvješću SHARE Fondacije. Primjer toga je korištenje tehnologije prepoznavanja lica u Moskvi koje je prošlo kroz navodnu eksperimentalnu fazu tijekom Svjetskog nogometnog prvenstva 2018. godine, a i dalje se koristi. Sličan scenarij može se očekivati i u Francuskoj, gdje je u ožujku prošle godine Narodna skupština donijela zakon koji dopušta korištenje AI tehnologije za nadzor kako bi se povećala javna sigurnost tijekom Olimpijskih igara koje će se ove godine održati u Parizu.
Zbog potencijalnih opasnosti za demokratske slobode, neke su tvrtke ograničile razvoj ovih tehnologija. Primjerice, IBM je, u jeku ubojstva Georga Floyda, tvrdio da je prestao prodavati tehnologiju za prepoznavanje lica, a slično obećanje, ono koje se odnosi na tehnologiju prepoznavanja emocija, dao je i Microsoft (iako ta obećanja kompanija nisu provjerena). Kako se naglašava u izvješću, sama činjenica da su te tvrtke odlučile donijeti moratorij na svoje vlastite proizvode i usluge nagovještava koliko su ti sustavi – opasni.
“Ne možemo se uzdati u to da će velike kompanije, koje prije svega za cilj imaju profit, biti one koje će zaštiti naša prava. One će se prilagoditi onome što naše države odluče u smislu kontrole javnog prostora. Ako se određene kompanije neće baviti tom tehnologijom, postoje druge koje hoće. Ipak je na državama da donose odluke hoće li se ovakvi sistemi koristiti ili ne”, kaže Krivokapić.
Iako s godinama tehnologija postaje sve preciznija u analizi biometrijskih podataka, činjenica je da i dalje ponekad napravi grešku koja pak rezultira time da policija uhvati i lažno optuži nevinu osobu. Osim toga, neki se ljudi, navodi portal The Conversation, prate pomnije od drugih – dokazuju to kastinske kamere u Indiji, praćenje lica Ujgura u Kini pa čak i nadzor pohađanja nastave u američkim školama, često u onima s niskim prihodima i većinskim afroameričkim stanovništvom.
Regulacija u Hrvatskoj
Kako je Faktograf ranije već pisao, Ministarstvo unutarnjih poslova RH u listopadu 2019. objavilo je da nabavlja sustav za prepoznavanje lica u vrijednosti 2,8 milijuna kuna bez PDV-a. Postupak nabave je klasificiran oznakom tajnosti pa su nam tako iz MUP-a odgovorili da ne mogu dati više informacija o softveru koji su kupili.
Nedugo nakon objave natječaja, u prosincu 2019. godine, donesen je Zakon o obradi biometrijskih podataka, kojim se osiguravaju uvjeti za obradu podataka u informacijskim sustavima unutar Republike Hrvatske, kao i u s njima povezanim informacijskim sustavima Europske unije. Pola godine kasnije, Ministarstvo unutarnjih poslova donosi i pravilnik koji pobliže propisuje način obrade biometrijskih podataka i ovlasti korištenja sustava.
Razlog tome je, kako su iz MUP-a naveli u prijedlogu Zakona o obradi biometrijskih podataka, to što posljednjih nekoliko godina “Europska unija i Republika Hrvatska doživljavaju sve veći broj nezakonitih prelazaka granica te rastuću i trajnu prijetnju unutarnjoj sigurnosti Europske unije, što pokazuje i niz terorističkih napada”. Zbog toga, tvrdi MUP, građani Europske unije i Republike Hrvatske očekuju da su kontrole osoba na vanjskim granicama i unutar schengenskog područja djelotvorne.
Kada je riječ o generalnoj upotrebi ove tehnologije, Zakon o provedbi Opće uredbe o zaštiti osobnih podataka kojeg je Sabor donio u svibnju 2018. određuje tko i na kakav način smije obrađivati biometrijske podatke.
U tijelima javne vlasti obrada se može provoditi samo ako je određena zakonom i ako je nužna za zaštitu osoba, imovine, klasificiranih podataka ili poslovnih tajni. Njeno korištenje u skladu je sa zakonom i u slučaju identificiranja pojedinca u prelasku državne granice.
U privatnom sektoru može se koristiti ako je nužna za zaštitu osoba, imovine i podataka ili za pojedinačno i sigurno identificiranje korisnika usluga. Međutim, pravni temelj mora biti izričita dozvola osoba čiji podaci se obrađuju.
