Kamere s mogućnošću prepoznavanja lica i video analitički softveri koji mogu prikupljati i uspoređivati biometrijske podatke spadaju u tehnologiju koja se sve češće koristi u svrhu nadzora te zaštite sigurnosti ljudi i imovine.
Navedena tehnologija u Hrvatskoj je lako dostupna, no ne mogu je svi koristiti na jednak način. Ona se zasad pod određenim ograničenjima koristi u privatnom sektoru, a njom se služi i Ministarstvo unutarnjih poslova koje je u zadnjih pet godina dva puta nabavljalo takav sustav – 2016. godine za nadzor državne granice od tvrtke King ICT te 2020. godine od tvrtke Infodata, u postupku koji je klasificiran oznakom tajnosti “Ograničeno”.
U MUP-u o ovim poslovima ne govore mnogo, odnosno ne odaju informacije o tome gdje se točno koristi tehnologija prepoznavanja lica o kojoj se ovih dana vode rasprave na razini EU, najviše u kontekstu ugroze privatnosti i masovnog nadzora te zastarjele zakonske regulative koja je gotovo uvijek nekoliko koraka iza same tehnologije.
MUP-ov sustav za nadzor granice
MUP je 2016. godine objavio natječaj za nabavku sustava za prepoznavanje lica za nadzor državne granice, financiran iz Schengenskog instrumenta EU. Posao je dobila tvrtka King ICT, čemu je prethodila žalba dvaju ponuditelja koju je Državna komisija za kontrolu postupka javne nabave odbacila.
King ICT, tvrtka bliska HDZ-ovom bivšem ministru obrane Damiru Krstičeviću, i inače dobro posluje s državom – od 2013. do 2019. godine iz proračuna joj je isplaćeno blizu milijardu kuna, izračunao je Index.hr. Procijenjena vrijednost natječaja za nabavku facial recognition sustava bila je milijun i 140 tisuća kuna.
U tehničkim specifikacijama sustava stoji kako on omogućuje integraciju kamera i biometrijske baze podataka lica osoba te služi za detekciju osoba koje se nalaze na određenim listama. Sustav će, stoji u dokumentaciji natječaja, služiti na entry/exit sustavu na graničnim prijelazima za automatsku usporedbu slike lica s putnih isprava i slika putnika, a trebao bi se moći povezati s neograničenim brojem kamera.
Među komponentama koje se još navode su prepoznavanje lica, otkrivanje sumnjivih lica, postojanje crne liste, identifikacija i praćenje, mogućnost integracije s drugim Agencijama, pretragu po društvenim mrežama (social media & web intelligence). Sustav bi trebao moći i detektirati lica u gužvi i u kretanju na udaljenosti te prepoznavati lica u realnom vremenu. Softver koji je MUP nabavljao morao je imati mogućnost nadogradnje do minimalno 10.000.000 referentnih slika.
Nedugo poslije objavljene su nove tehničke specifikacije u kojima se dio starih ne navodi; ispala je npr. potreba za pretragu po društvenim mrežama. Upravo oko korištenja fotografija korisnika društvenih mreža u facial recognition sustavima izbio je dosad vjerojatno najveći skandal vezan za ovu tehnologiju, u čijem centru je američka tvrtka Clearview AI (o kojoj će više riječi biti u nastavku teksta).
Novi Zakon, novi sustav
Ministarstvo unutarnjih poslova RH u listopadu 2019. objavilo je da nabavlja sustav za prepoznavanje lica u vrijednosti 2,8 milijuna kuna bez PDV-a. Postupak nabave je klasificiran oznakom tajnosti pa su tako Faktografu iz MUP-a odgovorili kako ne mogu dati više informacija o softveru koji su kupili.
Kako se može vidjeti na stranici elektroničkog glasila natječaja u EU, posao je dobila zagrebačka tvrtka Infodata.
Nedugo nakon objave natječaja, u prosincu 2019. godine, donesen je Zakon o obradi biometrijskih podataka, kojim se osiguravaju uvjeti za obradu podataka u informacijskim sustavima unutar Republike Hrvatske, kao i u s njima povezanim informacijskim sustavima Europske unije. Pola godine kasnije, Ministarstvo unutarnjih poslova donosi i pravilnik koji pobliže propisuje način obrade biometrijskih podataka i ovlasti korištenja sustava.
Zakonska regulativa obrade biometrijskih podataka uslijedila je nakon dvije Uredbe koje je u svibnju 2019. godine donio Europski parlament, a koje se odnose na uspostavu okvira za interoperabilnost informacijskih sustava EU-a na područja granica i vize te u području policijske i pravosudne suradnje, azila i migracija.
Uredbama se uspostavljaju europski portal za pretraživanje kojim se nadležnim tijelima omogućuje istovremeno pretraživanje više informacijskih sustava te zajednička usluga uspoređivanja biometrijskih podataka koja omogućuje pretraživanje i usporedbu biometrijskih podataka (otisaka prstiju i prikaza lica) iz nekoliko informacijskih sustava EU-a.
Razlog tome je, kako su iz MUP-a naveli u prijedlogu Zakona o obradi biometrijskih podataka, jest to što posljednjih nekoliko godina “Europska unija i Republika Hrvatska doživljavaju sve veći broj nezakonitih prelazaka granica te rastuću i trajnu prijetnju unutarnjoj sigurnosti Europske unije, što pokazuje i niz terorističkih napada”. Zbog toga, tvrdi MUP, građani Europske unije i Republike Hrvatske očekuju da su kontrole osoba na vanjskim granicama i unutar schengenskog područja djelotvorne.
Strah u Dicmu
Obrada biometrijskih podataka tema je koja je odjeknula i na lokalnoj razini, i to u Dalmatinskog Zagori, točnije u Dicmu, gdje je na dionici ceste osvanula kamera s naprednim specifikacijama među kojima i spada i prepoznavanje lica.
Dio vozača upite je poslao lokalnom mediju, portalu Dalmacija danas, čiji su novinari ubrzo saznali da je riječ o kameri Hrvatskih cesta koja ne mjeri brzinu, niti prikuplja i obrađuje osobne podatke. Kamera je, tvrde u Hrvatskim cestama, postavljena kako bi mjerila opterećenje ceste. Reakcija koja je ubrzo uslijedila, prekrivanje kamere crnom vrećom, pokazuje kako je ona kod dijela građana izazvala strah od prikupljanja osobnih podataka. Posebno im je zasmetalo što nigdje nije stajao natpis da se cesta snima.
Kakve podatke prikupljaju Hrvatske ceste ispitat će Agencija za zaštitu osobnih podataka (AZOP).
Faktografu su iz tog neovisnog tijela zaduženog za nadzor provedbe Opće odredbe za zaštitu podataka (GDPR) odgovorili kako će provesti postupak u svojoj nadležnosti kako bi se utvrdilo prikupljaju li se osobni podaci te je li njihova obrada zakonita. Kako navodi AZOP, ako se prikupljene fotografije ne obrađuju analitičkim postupanjem, odnosno, programskim rješenjima, onda nije riječ o obradi biometrijskih podataka.
“Primjer su uređaji za mjerenje brzine koji sadrže snimku s prikazom vozila i vozača. Ista se ne smatra biometrijskim podatkom ukoliko se isti prikaz ne obradi, u svrhu i s namjerom obrade biometrijskih atributa, aktivnim analitičkim postupanjem i programskim rješenjem, npr. u cilju utvrđivanja identiteta vozača, iako je vidljiv prikaz vozača”, kažu nam iz Agencije.
Biometrija i GDPR
Zakon o provedbi Opće uredbe o zaštiti osobnih podataka koji je Sabor donio u svibnju 2018. određuje tko i na kakav način smije obrađivati biometrijske podatke. U tijelima javne vlasti obrada se može provoditi samo ako je određena zakonom i ako je nužna za zaštitu osoba, imovine, klasificiranih podataka ili poslovnih tajni. Njeno korištenje u skladu je sa zakonom i u slučaju identificiranja pojedinca u prelasku državne granice.
U privatnom sektoru može se koristiti ako je nužna za zaštitu osoba, imovine i podataka ili za pojedinačno i sigurno identificiranje korisnika usluga. Međutim, pravni temelj mora biti izričita dozvola osoba čiji podaci se obrađuju.
Zakonom je dopuštena obrada biometrijskih podataka zaposlenika u svrhu evidentiranja radnog vremena te radi ulaska i izlaska iz službenih prostorija, uz uvjet da je zaposlenik dao izričitu privolu. Sve to ne odnosi se na privatni sektor i snimanje na javnim površinama; na njima je videonadzor ipak dopušten samo tijelima javne vlasti, pravnim osobama s javnim ovlastima i pravnim osobama koje obavljaju javnu službu. Pritom bi svi oni koji su snimani trebali biti informirani o tome.
Javne površine
Igor Barlek, autor stranice GDPR Croatia i službenik za zaštitu podataka za niz organizacija u Hrvatskoj, kaže kako ne vidi drugi način učinkovite primjene ovog zakona u svrhe otkrivanja počinitelja kaznenih dijela ili traganja za njima, ili u svrhu pronalaska nestale osobe, ako se tehnologija ne bi koristila na javno dostupnim površinama.
„Zakon o obradi biometrijskih podataka iz 2019. godine ostavlja mogućnost da se takva tehnologija može koristiti samo u svrhe sprječavanja, istraživanja, otkrivanja ili progona kaznenih djela ili izvršavanja kaznenih sankcija i da se njome mogu koristiti samo Ministarstvo unutarnjih poslova, Ministarstvo vanjskih i europskih poslova, Ministarstvo pravosuđa i uprave i Ministarstvo obrane. O detaljima stvarne primjene tehnologije možemo samo nagađati kao i o intenzitetu korištenja tehnologije prepoznavanja lica na javnim površinama”, kaže Barlek.
Mišljenja je da je u interesu MUP-a da javnost zna u koju svrhu će se koristiti tehnologija prepoznavanja lica, ako je ista nabavljena.
„Međutim, otkrivanje detalja o ulasku u prostor u kojem se npr. vrši otkrivanje počinitelja kaznenih dijela ili traganja za njima bilo bi u suprotnosti sa samom svrhom, odnosno, učinilo bi je potpuno neučinkovitom. Stoga je GDPR u svom članku 23. predvidio određena ograničenja u primjeni GDPR-a ako se istima poštuje bit temeljnih ljudskih prava i sloboda i ako isto predstavlja nužnu i razmjernu mjeru u demokratskom društvu za zaštitu nacionalne sigurnosti, javne sigurnosti, sprječavanja, istrage i otkrivanja te progona kaznenih dijela i niza drugih svrha“, kaže.
Barlek napominje da su postojale ideje nekih trgovina da na ulazu u njih postave takvu tehnologiju, ali kada bi voditeljima trgovina pojasnio da moraju jasno informirati svakog kupca i dati mu priliku da uđe u trgovinu na drugi ulaz bez takve tehnologije, oni bi odustali od daljnjeg razvoja ideje.
Gdje se sve koristi?
Matija Mandić, direktor sektora tehničke zaštite i pasivnih mrežnih rješenja u tvrtki King ICT, priča kako algoritmi danas, među ostalim, mogu mjeriti tjelesne temperature, prepoznavati maske na licu, kao i lica, spol, emocije, objekte i registarske oznake ili pratiti gustoću prometnog toka.
Kaže kako policija također koristi sustave prepoznavanja lica prilikom procesiranja prolaska većeg broja ljudi na određenom koridoru pri čemu se obavlja automatska usporedba izuzetih lica putem kamere s licima u potražnoj bazi te se alarmiraju djelatnici prilikom detekcije sumnjive osobe. Sustavi prepoznavanja lica se najčešće koriste i u segmentu kontrole putnika prilikom prelaska granice.
“Vrlo često na aerodromima možemo vidjeti autorizacijske prolaze (e-gate), koji omogućuju automatiziran prolazak korištenjem biometrijske putne isprave u kojoj je pohranjena slika osobe koja se autorizira na sustavu. Prilikom skeniranja putne isprave, provjeravaju se podaci te se pohranjena slika iz biometrijske putne isprave uspoređuje sa slikom izuzetom s kamere autorizacijskog sustava”, kaže Mandić.
Emil Solenički iz tvrtke Sole Commerce koja razvija svoje video analitičke sustave kaže kako se danas u Hrvatskoj takvi softveri koriste u maloprodajnim lancima, na blagajnama, u casinima, najčešće tamo gdje se radi s gotovinom i karticama. Pri svakom uvođenju takvog projekta radi se procjena ugroženosti s obzirom na kategorizaciju objekta.
„Mi smo u softveru napravili zone privatnosti, tako da se lice po potrebi može zasjeniti, da se ne može prepoznati. Iz kojeg razloga? Baš iz GDPR-a koji se mora poštivati. Na nama je da klijenta informiramo o tim stvarima. Osim toga, i sami softveri su dosta unaprijeđeni otkad je GDPR donesen. Možemo napraviti da se ne vidi lice, da bude zasjenjeno, kao kad djecu snimate“, kaže Solenički.
Upitan ugrožava li uporaba takve tehnologije pravo građana na privatnost, Solenički odgovara:
„Mislim da onaj koji ne želi da ga se prepozna, da će raditi sve kako bi zaobišao takve sustave. A cilj prepoznavanja za onog tko je čist i legalan i radi sve prema duhu zakona, ne vidim kakav problem može biti. Puno ljudi se s tim neće složiti , ali što god u životu radite, ne možete svima udovoljiti”.
Ipak, argument da se građani nemaju čega bojati ukoliko rade sve u duhu zakona povlači sa sobom važno pitanje – koliko je masovni nadzor uopće opravdan te sužava li se uporabom biometrije privatnost građana?
Što je sporno?
Prema podacima koje je u istraživanju napravila tvrtka Surfshark, od 154 država svijeta koje su bile dio studije, rezultati pokazuju da 109 država koristi tehnologiju prepoznavanja lica. Procjenjuje se da će globalno tržište ove tehnologije do 2024. godine vrijediti oko 7,5 milijardi dolara.
Sve veće rasprave se vode i o sigurnost prikupljenih podataka te mogućnosti njihove zlouporabe, ali i o samoj točnosti tehnologije. Naime, istraživanje MIT-a i Sveučilišta u Stanfordu z 2018. godine pokazuje kako softver za analizu lica ima stopu pogreške od 0,8 posto za svjetlopute muškarce, ali čak 34,7 posto za tamnopute žene. Zbog pogreški na koje softver nije imun krajem prošle godine u New Jerseyu greškom je uhićen tamnoputi muškarac (zbog čega će tužiti policiju). Kako navodi New York Times, u sličnoj situaciji našli su se i dvojica Afroamerikanaca iz Detroita.
Najkonkretniji primjer države u kojoj se uporaba ove tehnologije koristi u orvelijanskim razmjerima je Kina. Diljem te zemlje je 2018. godine postavljeno oko 200 milijuna kamera, a njihov broj konstantno se povećava. Neke od kamera povezane su s tzv. “sustavom socijalnih kredita”, što je koncept koji je kineska vlast počela razvijati još 2014. godine. Koncept obuhvaća nadziranje više aspekta života građana, stavljajući fokus na prosudbu ponašanja građana. Primjerice, sustav pamti svaki put kad osoba prelazi preko pješačkog dok je crveno na semaforu, kasni s plaćanjem računa ili preglasno sluša glazbu u tramvaju (Wired) te zbog toga korisnik dobiva negativne bodove, a što može dovesti do uskrate određenih javnih usluga.
Masovni nadzor poprima sve veće razmjere i u Rusiji. U Moskvi je u siječnju prošle godine uveden gradski sustav video nadzora koji je povezan sa sustavom za prepoznavanje lica moskovske tehnološke tvrtke NtechLab čiji suosnivač Artem Kukharenko izjavio da svoj softver isporučuje i drugim gradovima. Neka izvješća kažu da je sustav primijetio 200 prekršitelja tijekom prvih nekoliko tjedana moskovskog lockdowna početkom pandemije (Nature).
Korištenje tehnologije za prepoznavanje lica najavljuje se i u susjednoj Srbiji gdje su vlasti odlučile postaviti 8100 kamera na ulicama Beograda te nabaviti softver za videoanalitiku od kineske tvrtke Huawei. Zbog toga je reagirao i Povjerenik za informacije od javnog značaja i zaštitu podataka o ličnosti koji je u mišljenju koje je uputio Ministarstvu unutrašnjih poslova konstatirao da nije osigurana odgovarajuća pravna osnova za obradu biometrijskih podataka putem video nadzora (N1).
Slučaj Clearview AI
Biometrijski podaci mogu se obrađivati i prikupljanjem fotografija s društvenih mreža. Poznat je slučaj aplikacije Clearview AI koja je tako skupila biometrijske profile od više od tri milijarde ljudi. Kako je pisao The New York Times, aplikaciju koriste policijske službe, a kupuju je i privatne kompanije (1, 2). Clearview AI funkcionira tako da, nakon uploadanja fotografije, uspoređuje biometrijske podatke s podacima koje je sustav prikupio na internetu.
Europska komisija početkom prošle godine savjetovala se sa tijelima EU-a za zaštitu podataka nakon otkrića da je američka tehnološka tvrtka Clearview AI skupljala slike lica s web lokacija na društvenim mrežama, uključujući YouTube, Facebook i Twitter, a sve to bez dobivanja odobrenja korisnika. Komisiju je zabrinulo otkriće Buzzfeeda da tvrtka želi proširiti svoju uslugu na europsko tržište, i to na devet europskih zemalja.
Grčki euro parlamentarac Stelios Kouloglou tada je Komisiji postavio pitanje je li svjesna aktivnosti Clearview AI-a i koriste li taj softver neke tvrtke ili nacionalna tijela u EU-u. Odgovor je dobio nakon pola godine, a u njemu je stajalo kako Komisija nije upoznata s primjenom aplikacije Clearview AI koju provode tijela za provođenje zakona u EU-u i obrađuje li aplikacija podatke građana EU-a.
Ipak, pola godine od tog odgovora, prije malo manje od mjesec dana, stigla je vijest da je švedsko tijelo za zaštitu podataka kaznilo lokalnu policijsku upravu s 250.000 eura zbog nezakonite upotrebe kontroverznog softvera za prepoznavanje lica Clearview AI, kršeći državni zakon o kaznenim podacima. Aplikaciju Clearview AI švedska je policija koristila u nekoliko navrata, s tim da se nekoliko zaposlenika služilo alatom bez prethodnog odobrenja. Isto tako, Uprava za zaštitu podataka u Hamburgu donijela je odluku u kojoj biometrijsku bazu fotografija Clearview AI smatra nezakonitom u EU kao rezultat pritužbe koju je podnio Matthias Marx, član Računalnog kluba Chaos.
Uporaba u SAD-u i Europi
Nekoliko je američkih gradova već zabranilo korištenje tehnologije prepoznavanja lica. San Francisco je u svibnju 2019. godine izglasao odluku kojom se gradskim javnim službama, pa i policiji, zabranjuje korištenje te tehnologije. Mjesec dana poslije, istu je odluku donijelo i gradsko vijeće Somervillea u Massachusettsu, a jednako su učinili i gradovi Oakland, Portland, San Diego i Boston. Nedugo nakon što je američki predsjednik Joe Biden inauguriran, više od 40 organizacija civilnog društva tražilo je zabranu tehnologije prepoznavanja lica. Osim toga, od kongresa traže da donese zakone kojima će se omogućiti istraga o tome kako je policija dosad koristila obradu biometrijskih podataka.
Od 25 država članica Europske unije koje je AlgorithmWatch kontaktirao, najmanje jedanaest ima policiju koja koristi tehnologiju prepoznavanja lica, a osam ih planira uvesti to u narednim godinama. Danska, na primjer, takvu tehnologiju koristi od ljeta 2019. godine na stadionu Brøndby u istoimenom predgrađu Kopenhagena. Cilj obrade biometrijskih podataka jest borba protiv huliganizma – pojedinci koji su uhvaćeni stvaranju nereda upisivali bi se na crne liste. Takav sustav je implementiran pod GDPR odredbom na snazi. Programeri su, naime, smislili mehanizam koji je šifrirao podatke s kamere te nije pohranjivao podatke ljudi koji nisu na crnoj listi nakon potvrde nepodudaranja.
Belgijska policija na zračnoj luci Zaventem zabranila je korištenje sustava za prepoznavanje lica jer on nije u skladu sa zakonom. Kako su naveli, običan video nadzor je prihvatljiv, ali sama obrada biometrijskih podataka nije. S druge strane, Njemačka trenutno koristi tu tehnologiju i planira instalirati kamere za prepoznavanje lica na 134 željezničke stanice i 14 zračnih luka.
U siječnju 2020. korištenje kamera i softvera koji prepoznaju lice najavljeno je i u Londonu, zbog čega su reagirali aktivisti za zaštitu ljudskih prava. (BBC). Poznat je i slučaj presude u postupku koji je na sudu u Južnom Walesu pokrenuo Ed Bridges, stanovnik Cardiffa kojeg je policija dva puta snimila. Uz pomoć organizacije civilnog društva Liberty, Bridges je dokazao da je policija Južnog Walesa nezakonito koristila tehnologiju. Sud je utvrdio da ne postoje smjernice gdje se tehnologija može koristiti, koga se može nadzirati te kolika je procjena utjecaja nadzora na zaštitu osobnih podataka. Ipak, sud je na kraju također utvrdio i da je uporaba softvera bila opravdano miješanje u ljudska prava jer je korisnost korištenja tehnologije nadjačala utjecaj na pravo na zaštitu podataka.
Nedavno je jedan njemački euro zastupnik tužio Europsku uniju Europskom sudu pravde u Luksemburgu tražeći dokumentaciju o projektu Inteligentni prijenosni sustav granične kontrole (iBorderCtrl) koji se bavi istraživanjem novih tehnologija za kontrolu useljavanja stranaca u Europsku uniju (Euroactiv). Sustav su razvili istraživači sa Sveučilišta Manchester Metropolitan koji tvrde da tehnologija može analizirati izraz lica i držanje tijela koje osoba ima dok odgovara na pitanja na računalu. Iz programa Horizon 2020 za projekt je odobreno 4,5 milijuna eura, a Agencija za granicu i obalnu stražu Europske unije (Frontex ) testirala ga je u Mađarskoj, Latviji i Grčkoj između 2016. i 2019. godine. Izvješće o projektu trebalo je biti objavljeno 2020. godine, ali još nije predstavljeno javnosti (Mreža.hr).
Siva zona
Ella Jakubowska iz European Digital Rights (EDRI), organizacije koja okuplja 44 udruga diljem Europe i koja je jedna od pokretačica inicijative Reclaim Your Face kojom se od Europske Komisije traži da u zakonu i u praksi zabrani neselektivnu ili proizvoljno ciljanu upotrebu biometrije koja može dovesti do nezakonitog masovnog nadzora. Inicijativa okuplja 35 organizacija civilnog društva, među kojima je i Gong (udruga koja je izdavač Faktografa, op.ur.).
Jakubowska kaže kako u primjeni GDPR-a postoji određena siva zona u kojoj je moguća zlouporaba direktive.
“Većina zemalja EU nema pravni okvir koji bi im omogućio upotrebu prepoznavanja lica, ali unatoč tome su pokušale koristiti taj softver. Italija je dobar primjer vlasti koja nabavlja biometrijsku tehnologiju javnim novcem, za što nema pravni okvir. Pronašli smo i dokaze o tome da više od polovice zemalja EU-a koristi biometriju na načine koji su u suprotnosti s njihovim vlastitim pravilima o ljudskim pravima”, kaže Jakubowska.
Stav EDRI-ja je da sve uporabe biometrije koje mogu dovesti do masovnog nadzora kao što su prepoznavanje lica na javnim površinama ili u javno dostupnim prostorima nikada nisu opravdane jer ograničavaju širok spektar temeljnih prava bez zadovoljavanja praga nužnosti i proporcionalnosti. Organizacija se ipak ne zalaže za opću zabranu tehnologije, već za zabranu bilo koje upotrebe koja je štetna, diskriminirajuća i koja neopravdano ograničava ljudska prava.
“Da, bez sumnje, europski građani imaju pravo znati gdje se koristi prepoznavanje lica. Više je razloga. Morali bismo znati kamo ide javni novac i tako držati vlade odgovornima, to je temeljni dio demokratskog društva. Naši su biometrijski podaci nevjerojatno osjetljivi i naše vlade nemaju pravo na njihovo samovoljno prikupljanje ili obradu. To je kršenje naših prava na privatnost i zaštitu podataka i utječe na mnoga druga prava, uključujući dobru vladavinu, pretpostavku nevinosti, slobodno izražavanje i udruživanje, nediskriminaciju i jednakost i još mnogo toga”, zaključuje Jakubowska.
Komisija je u veljači prošle godine Europska komisija donijela je Bijelu knjigu o umjetnoj inteligenciji koja zadaje okvire u kojima bi se trebalo razvijati digitalno društvo, i koji bi trebali osigurati da se tehnologija koristi za dobrobit čovječanstva. Pri donošenju dokumenta razmišljalo se i o uvođenju petogodišnjeg moratorija na korištenje tehnologije za prepoznavanje lica, no od toga se ipak na kraju odustalo.
Vijeće Europe u siječnju ove godine donijelo je smjernice o uporabi tehnologije u kojima upozorava na integriranje softvera za prepoznavanja lica u postojeće nadzorne sustave predstavlja rizik za privatnost i zaštitu osobnih podataka. U smjernicama se također navodi kako privatni sektor ne bi trebao koristiti tehnologiju prepoznavanja lica u nekontroliranom prostoru, kao što su na primjer trgovački lanci, dok tijela javne vlasti moraju korištenje biometrije ograničiti samo na nacionalnu sigurnost i slične svrhe.
Bez strategije o umjetnoj inteligenciji
Isto tako, Europski parlament izglasao je izvješće u kojem se poziva na donošenje novog pravnog okvira za razvoj umjetne inteligencije i biometrijskih aplikacija povezanih s nadzorom koji bi bio u skladu s etičkim načelima. Dokument je podijeljen u tri glavna odjeljka – uporaba u vojne svrhe i u svrhu nadzora, umjetna inteligencija u javnom sektoru te masovni nadzor i deepfakeovi. U izvještaju se poziva Komisija da ipak razmotri moratorij na uporabu tih sustava u javnim prostorima, sve dok se tehnički standardi tehnologije ne usklade s onima koji se odnose na zaštitu osobnih podataka.
Riječ je o dokumentima koji nemaju obvezujući učinak na primjenu tehnologije prepoznavanja lica u Hrvatskoj, stoga njihovo donošenje ne utječe značajno na način na koji se onda koristi. Sadašnja zakonska konstelacija omogućuje MUP-u da koristi tehnologiju na javnim površinama, a da pritom iz Ministarstva ne žele reći gdje i na koji način se koristi ta tehnologija.
Danji razvoj biometrijskih alata i umjetne inteligencije područje je kojem EU daje sve više pozornosti. Prije dvije godine Komisija je pokrenula AI4EU s ciljem izgradnje prve europske platforme za razvoj umjetne inteligencije. Do sredine 2019. svaka je država članica EU trebala imati nacionalnu strategiju za umjetnu inteligenciju, s predviđenim razinama ulaganja i provedbenim mjerama.
Hrvatska takav dokument još nije donijela.
Ispravak: U izvornoj verziji ovog teksta stajao je pogrešan podatak da će globalno tržište tehnologije prepoznavanja lica do 2024. kreirati oko 7 milijardi dolara profita. Točan podatak je kako se očekuje da će globalno tržište tehnologije za prepoznavanje lica do 2024. ukupno vrijediti oko 7,5 milijardi dolara.
