Nova administracija američkog predsjednika Donalda Trumpa od dolaska na vlast zauzela je vrlo kritičan stav prema regulaciji Europske unije koja se odnosi na digitalne usluge te korištenje i razvoj tehnologije umjetne inteligencije.
Sukob je to dva koncepta u kojem američka strana tvrdi da se zalaže za pravo govora i slobodnog poslovanja velikih tehnoloških kompanija, dok se iz EU-a odgovara kako se želi uspostaviti siguran Internet.
Republikanac Brendan Carr, kojeg je Trump postavio na čelo američke Federalne komisije za komunikacije (FCC), 3. ožujka je na kongresu Mobile World u Barceloni komentirao da je europska regulacija vezana uz moderiranje sadržaja na internetu nekompatibilna s američkom tradicijom o slobodi govora te je izrazio zabrinutost da će se njime suzbijati sloboda izražavanja.
“Postoji zabrinutost zbog pristupa koji je Europa zauzela s DSA-om (Akt o digitalnim uslugama EU-a)”, kazao je Carr te dodao da za američke tehnološke kompanije koje posluju u Europi taj pristup nije u skladu s američkom tradicijom vezanom uz slobodu govora i obvezama koje te kompanije imaju vezano uz pluralizam mišljenja.
JD Vance: “Autoritarna cenzura”
Carr je drugi visoki dužnosnik koji je proteklih mjeseci kritizirao europsku regulaciju. Prvi je bio potpredsjednik SAD-a JD Vance koji je na AI summitu u Parizu europska pravila o moderiranju sadržaja na društvenim mrežama nazvao “autoritarnom cenzurom”. I američki predsjednik Trump je slobodu govora, kako je shvaća trenutačna američka administracija, postavio kao jednu od bitnih tema svojeg mandata kada je prvog dana potpisao predsjedničku uredbu u kojoj je tvrdio da vraća slobodu govora i proglašava kraj cenzure.
Glasnogovornik Europske komisije Thomas Regnier kazao je da su Carrove optužbe o cenzuri u DSA potpuno neutemeljene. “Cilj naše digitalne regulative, primjerice DSA, je zaštita temeljnih prava. Svi se slažemo s potrebom da osiguramo da Internet bude sigurno mjesto, kao što je Vance rekao na AI Action Summitu u Parizu”, kazao je Regnier.
Virkkunen: “Branimo iste vrijednosti u digitalnom i fizičkom svijetu”
O principima vezanima uz razvoj tehnologija umjetne inteligencije, kao i regulaciji na internetu, potpredsjednica Europske komisije za tehnološki suverenitet, sigurnost i demokraciju Henna Virkkunen govorila je tijekom panela na Muenchenskoj sigurnosnoj konferenciji.
“U Europskoj uniji imamo pristup da želimo braniti iste vrijednosti u digitalnom svijetu koje imamo i u fizičkom svijetu. Želimo imati sigurno, pošteno i demokratsko okruženje u digitalnom svijetu”, kazala je i dodala da te principe žele uspostaviti kroz Akt o digitalnim uslugama (DSA) kao i Akt o umjetnoj inteligenciji (AI Act).
“Ključno načelo je procjena rizika. Primjerice, kod digitalnih usluga, velike internetske platforme, koje imaju veliku moć u našim demokracijama i ekonomijama, imaju više obveza. Moraju procjenjivati i ublažavati sistematske rizike koje predstavljaju za izborne procese ili građanski diskurs. Oni moraju imati svoje procese kako ublažavaju sistematske rizike”, objasnila je Virkkunen te dodala kako su slični principi uspostavljeni i kod korištenja umjetne inteligencije.
“Akt o umjetnoj inteligenciji zabranio je neke od praksi. Ne smijete obavljati tzv. društveno bodovanje u EU ili pratiti emocije radnika na radnom mjestu jer se to protivi ljudskim pravila i temeljnim vrijednostima Europske unije”, kazala je Virkkunen.
Akt o umjetnoj inteligenciji
U nastavku teksta detaljnije ćemo objasniti ta dva dokumenta Europske unije – Akt o umjetnoj inteligenciji i Akt o digitalnim uslugama.
Na početku Akta o umjetnoj inteligenciji navode se pozitivne strane uvođenja tehnologije umjetne inteligencije u razne sustave:
“Umjetna inteligencija skup je tehnologija koji se brzo razvija i doprinosi širokom spektru gospodarskih, okolišnih i društvenih koristi u cijelom nizu industrija i društvenih aktivnosti. Zahvaljujući boljem predviđanju, optimizaciji operacija i dodjeli resursa te personalizaciji digitalnih rješenja dostupnih pojedincima i organizacijama, korištenje umjetne inteligencije može poduzećima pružiti ključne konkurentske prednosti te podupirati društveno i okolišno korisne ishode, na primjer u zdravstvu, poljoprivredi, sigurnosti hrane, obrazovanju i osposobljavanju, medijima, sportu, kulturi, upravljanju infrastrukturom, energetici, prometu i logistici, javnim uslugama, sigurnosti, pravosuđu, resursnoj i energetskoj učinkovitosti, praćenju stanja okoliša, očuvanju i obnovi bioraznolikosti i ekosustavâ te ublažavanju klimatskih promjena i prilagodbi njima”.
Rizici u korištenju alata umjetne inteligencije
No, potom se ističe i da takvi sustavi mogu uzrokovati i štetu: “Istodobno, ovisno o okolnostima njezine specifične primjene, korištenja i razine tehnološkog razvoja, umjetna inteligencija može stvoriti rizike i uzrokovati štetu javnim interesima i temeljnim pravima zaštićenima pravom Unije. Ta šteta može biti materijalna ili nematerijalna, uključujući tjelesnu, psihološku, društvenu ili ekonomsku štetu”.
Te rizike je EU podijelila na četiri razine: neprihvatljive i visoke rizike, rizike transparentnosti te minimalne ili nikakve rizike.
Kao neprihvatljivi rizici navode se: štetne manipulacije i obmane koje se temelje na umjetnoj inteligenciji; štetno iskorištavanje ranjivosti koje se temelji na umjetnoj inteligenciji; društveno bodovanje; procjena ili predviđanje rizika pojedinačnog kaznenog djela; neciljano struganje interneta ili CCTV materijala radi stvaranja ili proširenja baza podataka za prepoznavanje lica; prepoznavanje emocija na radnim mjestima i u obrazovnim ustanovama; biometrijska kategorizacija kako bi se izvele određene zaštićene značajke te daljinska biometrijska identifikacija u stvarnom vremenu a javnim mjestima. za potrebe kaznenog progona.
“Manipulativne tehnike omogućene umjetnom inteligencijom mogu se upotrebljavati kako bi se osobe navelo na neželjeno ponašanje ili kako bi ih se obmanulo tako da ih se potiče na odluke na način kojim se podriva i narušava njihova autonomija, donošenje odluka i slobodan izbor. Stavljanje na tržište, stavljanje u upotrebu ili korištenje određenih AI sustava s ciljem ili učinkom bitnog iskrivljavanja ljudskog ponašanja, pri čemu je vjerojatno da će nastati znatna šteta, osobito ona koja ima dovoljno velike štetne učinke na fizičko ili psihološko zdravlje odnosno financijske interese, osobito su opasni te bi ih stoga trebalo zabraniti. U takvim se AI sustavima upotrebljavaju subliminalne komponente kao što su zvučni i slikovni podražaji te videopodražaji koje osobe ne mogu percipirati jer nadilaze ljudsku percepciju ili se upotrebljavaju druge manipulativne ili prijevarne tehnike kojima se podriva ili narušava autonomija, donošenje odluka ili slobodan izbor osobe na način da ljudi svjesno ne percipiraju te tehnike ili zbog kojih su, ako ih i jesu svjesni, svejedno prevareni ili ih ne mogu kontrolirati niti im se oduprijeti”, piše u Aktu o umjetnoj inteligenciji.
Prevare
Klasične manipulacije koje se mogu podvesti pod ovaj nazivnik već se vide u praksi, a o mnogima smo već i pisali na Faktografu. AI alati već sada mogu proizvesti relativno vjerne lažne audio i video snimke koje građane mogu navesti na donošenje raznih štetnih odluka vezanih uz, primjerice, glasovanje na izborima, ulaganje novca u rizične investicije ili kupovinu lažnih lijekova. Dok se alati umjetne inteligencije nisu koristili za izborna podmetanja protivnicima tijekom superizborne 2024. u Hrvatskoj, na društvenim mrežama se svakodnevno mogu pronaći oglasi koji tu tehnologiju koriste kako bi se ljudima prodale lažne investicijske platforme, kao što su zabilježeni i slučajevi iskorištavanja uglednih liječnika koji kroz lažan AI generirani sadržaj navodno pokušavaju nagovoriti ljude na kupovinu sumnjivih lijekova.
Problematična je i kategorizacije na temelju prikupljenih biometrijskih podataka osoba. “Trebalo bi zabraniti sustave biometrijske kategorizacije koji se temelje na biometrijskim podacima fizičkih osoba, kao što su lice ili otisak prstiju pojedinca, kako bi se deduciralo ili izvelo zaključke o njegovim političkim mišljenjima, članstvu u sindikatima, vjerskim ili filozofskim uvjerenjima, rasi, spolnom životu ili seksualnoj orijentaciji”, navodi se u dokumentu, a potom se dodaje i da “AI sustavi koji omogućuju društveno vrednovanje fizičkih osoba koje upotrebljavaju javni ili privatni akteri mogu rezultirati diskriminatornim ishodima i isključivanjem određenih skupina”.
“Njima se može prekršiti pravo na dostojanstvo i nediskriminaciju te vrijednosti kao što su ravnopravnost i pravda. Takvi AI sustavi evaluiraju ili klasificiraju fizičke osobe ili skupine fizičkih osoba na temelju višestrukih podataka povezanih s njihovim društvenim ponašanjem u višestrukim kontekstima ili poznatih, izvedenih ili predviđenih osobnih značajki ili značajki osobnosti tijekom određenih razdoblja. Društveni rejting dobiven takvim AI sustavima može rezultirati štetnim ili nepovoljnim tretmanom fizičkih osoba ili cijelih skupina fizičkih osoba u društvenim kontekstima koji nisu povezani s kontekstom u kojima su podaci izvorno generirani ili prikupljeni, odnosno štetnim tretmanom koji je nerazmjeran ili neopravdan u odnosu na težinu posljedica njihova društvenog ponašanja”, navodi se. Time se želi spriječiti da neki veliki sustav prikupi podatke o nekoj osobi iz raznih baza podataka te da se na temelju toga određuje “društveni rejting”.
Cilj je i da se ograniči biometrijska identifikacija osoba na javnim mjestima u svrhu kaznenog progona kako se ne bi zadiralo u privatni život, ali i da stanovništvo ne bi imalo doživljaj stalnog nadzora. “Stoga bi trebalo zabraniti korištenje tih sustava u svrhu kaznenog progona, osim u taksativno popisanim i usko definiranim situacijama u kojima je ono nužno za ostvarenje znatnog javnog interesa, čija važnost premašuje rizike”, navodi se u dokumentu te se potom i detaljno razrađuje u kojim slučajevima bi takav nadzor bio dopušten.
“Trebalo bi zabraniti stavljanje na tržište, stavljanje u upotrebu u tu specifičnu svrhu ili korištenje AI sustava koji stvaraju ili proširuju baze podataka za prepoznavanje lica neciljanim prikupljanjem prikaza lica s interneta ili iz snimaka CCTV-a jer ta praksa doprinosi osjećaju masovnog nadzora i može dovesti do teških kršenja temeljnih prava, uključujući pravo na privatnost”, navodi se u dokumentu.
Visokorizični slučajevi korištenja AI alata
Visokorizičnim slučajevima uporabe umjetne inteligencije koji mogu predstavljati ozbiljan rizik za zdravlje, sigurnost ili temeljna prava Akt o umjetnoj inteligenciji uključuje: sigurnosne komponente umjetne inteligencije u kritičnim infrastrukturama (npr. promet), čiji bi neuspjeh mogao ugroziti život i zdravlje građana; rješenja umjetne inteligencije koja se upotrebljavaju u obrazovnim ustanovama, a koja mogu odrediti pristup obrazovanju i tijek nečijeg profesionalnog života (npr. bodovanje ispita); sigurnosni sastavni dijelovi proizvoda koji se temelje na umjetnoj inteligenciji (npr. primjena umjetne inteligencije u kirurškim zahvatima uz pomoć robota); alati umjetne inteligencije za zapošljavanje, upravljanje radnicima i pristup samozapošljavanju (npr. softver za razvrstavanje životopisa za zapošljavanje); određeni slučajevi upotrebe umjetne inteligencije koji se upotrebljavaju kako bi se omogućio pristup osnovnim privatnim i javnim uslugama (npr. ocjenjivanje kreditne sposobnosti kojim se građanima uskraćuje mogućnost dobivanja zajma); AI sustavi koji se upotrebljavaju za daljinsku biometrijsku identifikaciju, prepoznavanje emocija i biometrijsku kategorizaciju (npr. AI sustav za retroaktivnu identifikaciju kradljivaca u trgovini); slučajevi upotrebe umjetne inteligencije u tijelima kaznenog progona koji mogu utjecati na temeljna prava ljudi (npr. evaluacija pouzdanosti dokaza); slučajevi upotrebe umjetne inteligencije u upravljanju migracijama, azilom i granicama (npr. automatizirano razmatranje zahtjeva za vizu), kao i rješenja umjetne inteligencije koja se upotrebljavaju u pravosuđu i demokratskim procesima (npr. rješenja umjetne inteligencije za pripremu sudskih presuda).
Takvi sustavi podliježu strogim obvezama prije nego se stave na tržište, a koji se, između ostalog, odnose na osiguranje visoke kvalitete skupova podataka te detaljnu dokumentaciju o sustavu i njegovoj svrsi.
Kako bi se uklonio rizik netransparentnosti sustava koji se uvode, Aktom o umjetnoj inteligenciji uvode se posebne obveze kako bi se osiguralo da su ljudi informirani. Primjerice, pri upotrebi sustava umjetne inteligencije kao što su chatbotovi, ljudi bi trebali biti svjesni da su u interakciji sa strojem kako bi mogli donijeti informiranu odluku. Također, traži se da se sadržaj stvoren umjetnom inteligencijom može identificirati, kao i da bude jasno i vidljivo označen. EU naglašava kako većina AI sustava koji se trenutačno koriste predstavljaju minimalnu ili nikakvu opasnost, a to su primjerice videoigre omogućene umjetnom inteligencijom ili filtri za nepoželjnu poštu.
Akt o umjetnoj inteligenciji stupio je na snagu u EU 1. kolovoza 2024. i u potpunosti bi se trebao primjenjivati od 2. kolovoza 2026., no određene su i tri iznimke: zabrane i obveze u pogledu pismenosti u području umjetne inteligencije počele su se primjenjivati 2. veljače 2025.; pravila upravljanja i obveze za AI modele opće namjene počinju se primjenjivati 2. kolovoza 2025.; pravila za visokorizične AI sustave ugrađene u regulirane proizvode imaju produljeno prijelazno razdoblje do 2. kolovoza 2027.
Hrvatska Vlada je u prosincu 2024. godine odredila domaća nadležna tijela za provođenje Akta o umjetnoj inteligenciji. Kao nadležna tijela navedeni su: Pučka pravobraniteljica, Pravobraniteljica za djecu, Pravobraniteljica za ravnopravnost spolova, Pravobraniteljica za osobe s invaliditetom, Agencija za zaštitu osobnih podataka, Državno izborno povjerenstvo i Agencija za elektroničke medije. “Ovaj korak osigurava usklađenost Republike Hrvatske s europskim pravilima i doprinosi zaštiti temeljnih prava građana u kontekstu razvoja i primjene umjetne inteligencije”, navela je Vlada.
Akt o digitalnim uslugama
Drugi dokument zbog kojeg nova američka administracija kritizira Europsku uniju je Akt o digitalnim uslugama. U Hrvatskoj je taj zakon ovog tjedna stigao na drugo čitanje u Saboru.
Kao što je objašnjeno u tekstu na internetskim stranicama Udruge Faktograf, Europski ga je parlament usvojio u listopadu 2022. godine s ciljem da spriječi nezakonite i štetne aktivnosti na internetu i širenje dezinformacija. Europska komisija na svojim internetskim stranicama objašnjava da se tim aktom reguliraju “internetski posrednici i platforme kao što su internetske platforme za trgovanje, društvene mreže, platforme za dijeljenje sadržaja, trgovine aplikacijama te platforme za putovanja i smještaj”, a da se njezinom provedbom jamči sigurnost korisnika i zaštita temeljnih prava te se stvara pravedno i otvoreno okruženje na internetskim platformama”.
Smanjivanje mogućih rizika velikih platformi
Iz Europske komisije navode da su obveze različitih internetskih aktera usklađene s njihovom ulogom, veličinom i utjecajem u internetskom okruženju. Kao osobito rizične u pogledu širenja nezakonitog sadržaja i štetnog djelovanja za društvo navode se vrlo velike internetske platforme, a za one koje koristi više od 10 posto od 450 milijuna stanovnika EU predviđena su posebna pravila. Kada se pogleda popis tih platformi jasno je kako pretežu američke tehnološke tvrtke, što je i razlog zbog kojeg se taj dokument našao na udaru kritika američke administracije.
Kao što smo ranije pisali, umjesto kategoričkih zabrana koje bi bilo teško provoditi u automatiziranim sustavima donošenja odluka, EU se odlučila za smanjivanje rizika od novih tehnologija i kažnjavanje onih koji ne uvedu primjerene “zaštitne ograde”. Tako se od velikih internetskih platformi i vrlo velikih internetskih tražilica zahtjeva da “s dužnom pažnjom utvrđuju, analiziraju i procjenjuju sve sistemske rizike u Uniji koji proizlaze iz dizajna ili funkcioniranja njihove usluge i njezinih povezanih sustava, među ostalim algoritamskih sustava, i od korištenja njihovih usluga”.
Oni jednom godišnje moraju izvještavati o procijenjenim sistemskim rizicima u koje je uključeno: “širenje nezakonitog sadržaja putem njihovih usluga; sve stvarne ili predvidive negativne učinke na ostvarivanje temeljnih prava, osobito prava na ljudsko dostojanstvo utvrđenog u članku 1. Povelje, prava na poštovanje privatnog i obiteljskog života utvrđenog u članku 7. Povelje, prava na zaštitu osobnih podataka utvrđenu u članku 8. Povelje, prava na slobodu izražavanja i informiranja, uključujući slobodu i pluralizam medija, utvrđenog u članku 11. Povelje, prava na nediskriminaciju utvrđenog u članku 21. Povelje, prava na poštovanje prava djeteta utvrđenog u članku 24. Povelje i prava na visoku razinu zaštite potrošača utvrđenog u članku 38. Povelje; sve stvarne ili predvidive negativne učinke na građanski diskurs i izborne procese te na javnu sigurnost; sve stvarne ili predvidive negativne učinke povezane s rodno uvjetovanim nasiljem, zaštitom javnog zdravlja i maloljetnika te ozbiljnim negativnim posljedicama za fizičku i mentalnu dobrobit osobe”. Propisano je te velike platforme moraju uspostaviti “razumne, razmjerne i djelotvorne mjere za smanjenje rizika”.
DSA u drugom čitanju u Saboru
Hrvatska je proceduru za usvajanje DSA pokrenula na kraju mandata prošle Vlade Andreja Plenkovića te je tek u siječnju 2024. godine Ministarstvo gospodarstva objavilo javno savjetovanje o Nacrtu zakona o provedbi Akta o digitalnim uslugama. Kako do srpnja nije bilo drugih pomaka, Europska komisija pokrenula je proces protiv Hrvatske zbog povrede prava EU-a. Krajem kolovoza nova Vlada, u kojoj je brigu o DSA preuzelo Ministarstvo pravosuđa, uprave i digitalne transformacije, usvojila je Prijedlog zakona, a krajem rujna Hrvatski sabor ga je raspravio u prvom čitanju.
Sada je Vlada u saborsku proceduru poslala zakon i u drugom čitanju. Za nacionalnog Koordinatora za digitalne usluge koji zadovoljava stroge uvjete (neovisan od bilo kojeg vanjskog utjecaja, autonoman u upravljanju svojim proračunom, posjeduje dostatne tehničke, financijske i ljudske resurse) određuje se HAKOM.
Tijela javne vlasti kojima bi DSA u Hrvatskoj donijela ovlast za izdavanje naloga za djelovanje protiv nezakonitog sadržaja poput uklanjanja ili ograničavanja dosega sadržaja bila bi: Državno odvjetništvo i Ministarstvo unutarnjih poslova za nezakoniti sadržaj koji predstavlja kazneno djelo i prekršaj; Agencija za zaštitu osobnih podataka za nezakoniti sadržaj koji predstavlja povredu propisa kojima je uređena zaštita osobnih podataka; Carinska uprava Ministarstva financija za nezakoniti sadržaj koji predstavlja povredu prava intelektualnog vlasništva; Državni inspektorat za nezakoniti sadržaj koji predstavlja povredu propisa iz djelokruga inspekcija Državnog inspektorata u skladu s ovlastima određenim posebnim propisima; Ministarstvo zdravstva za nezakonit sadržaj koji predstavlja povredu iz područja zdravstva, lijekova i medicinskih proizvoda i biomedicine, u skladu s ovlastima određenim posebnim zakonom; Agencija za elektroničke medije za nezakoniti sadržaj koji predstavlja povredu iz područja elektroničkih medija u skladu s ovlastima određenim posebnim propisima te druga tijela u skladu s ovlastima određenim posebnim zakonima kojima se uređuje njihov djelokrug.
Ta će tijela moći izdavati naloge za djelovanje protiv nezakonitog sadržaja i nalog za davanje informacija po službenoj dužnosti. Protiv tih naloga pružatelj usluga posredovanja i primatelj usluge moći će uložiti prigovor Općinskom prekršajnom sudu u Zagrebu, dok će se protiv rješenja Koordinatora za digitalne usluge kojim se odlučuje o pritužbama moći pokrenuti upravni spor na upravnom sudu.
Kazne za kršenje odredbi iz zakona propisane su do 6 posto godišnjeg svjetskog prihoda pružatelja usluge, što kod velikih tehnoloških tvrtki mogu biti značajni iznosi.
Uz različiti pogled na uvjete za zaustavljanje rata u Ukrajini, trgovinski rat carinama i reguliranje internetskog prostora vjerojatno će u narednim godinama biti jedno od pitanja koje će opterećivati odnose Europske unije i SAD-a pod predsjednikom Donaldom Trumpom. Jer pogledi s dvije strane Atlantskog oceana bitno se razlikuju: dok SAD tvrdi da EU uvodi cenzuru i stavlja preveliki teret na, uglavnom, američke tehnološke tvrtke, Europska unija odgovara da samo želi imati siguran Internet sa što većom transparentnošću i što manjim rizicima za svoje stanovnike.
