U jeku prvog kruga predsjedničkih izbora, tijekom objašnjavanja što je istina u susretu njezina supruga Mile Kekina i Nikice Jelavića, predsjednička kandidatkinja platforme Možemo! Ivana Kekin na konferenciji za medije pustila je vrlo vjernu audio AI generiranu snimku u kojoj joj premijer Andrej Plenković daje podršku.
“Ovo što ćemo vam sada pustiti (…) napravljeno je za deset minuta, za nula sredstava, dostupnim alatima za generiranje glasa na internetu”, kazala je tada Kekin na konferenciji za medije, prije nego je puštena potpuno lažna izjava premijera Plenkovića. Naravno, Plenković nije podržao Kekin za predsjednicu jer je HDZ-ov kandidat na predsjedničkim izborima bio Dragan Primorac.
Ta snimka vrlo je vjerno prikazala koliko ta tehnologija može biti s jedne strane moćna, a s druge opasna za demokratske i izborne procese, ali, srećom, ništa slično nije se koristilo u ovoj predsjedničkoj kampanji.
Prema podacima koje je Faktograf dobio od Hrvatske regulatorne agencije za mrežne djelatnosti (HAKOM), oni nisu imali zabilježenih prijava vezanih uz korištenje alata za generiranje AI sadržaja u svrhu dezinformiranja javnosti.
Slovački slučaj
Noć prije izbornog dana, dok traje predizborna šutnja, po društvenim mrežama i chat grupama s velikim brojem pratitelja počinje se širiti audio snimka govora sudionika izbora koja duboko kompromitira njegove izborne šanse. Zbog toga što su izbori drugi dan, traje izborna šutnja, a tehnologija otkrivanja lažnih snimki još uvijek nije dovoljno razvijena i pouzdana, nemoguće je sa stopostotnom sigurnošću utvrditi je li snimka autentična. Glasači potaknuti činjenicom da nije jasno je li snimka autentična, za svaki slučaj ne glasaju za tog kandidata, a to odredi da ne uđe u drugi krug izbora…
Za ovakav drastičan primjer miješanja u izborni proces postoji tehnologija jednostavnog stvaranja autentičnih lažnih snimaka, a nije niti problem proširiti ih velikom broju korisnika interneta putem društvenih mreža ili chat grupa.
Prvi drastičan slučaj korištenja AI tehnologije za generiranje lažnih snimki za uplitanje u izborni proces dogodio se u rujnu 2023. godine u Slovačkoj. Tada se, dva dana prije izlaska na birališta, pojavila lažna AI generirana audio snimka razgovora vođe stranke Progresivna Slovačka Michala Šimečka i novinarke Monike Tódove. U lažnoj snimci njih dvoje govore da će izbori biti namješteni u korist Progresivne Slovačke.
Fektčekeri iz AFP-a Slovačke su, na temelju izjava stručnjaka, zaključili da snimka nije autentičan razgovor političara i novinarke. No, odmah nakon originalne objave, ta dvominutna audio snimka loše kvalitete proširila se na tisućama profila slovačkih korisnika društvenih mreža. Prema predzibornim anketama, Progresivna stranka je bila odmah iza stranke SMER-SSD Roberta Fica, koji je obećavao prekid vojne pomoći Ukrajini. Uoči izbora je čak 22 posto glasača bilo još neopredijeljeno. Na kraju je SMER pobijedio s 23 posto, a PS je bio drugi s 18 posto te je Fico stvorio vladajuću koaliciju i ponovno postao premijer.
Što se tiče lažne snimke koja je proširena društvenim mrežama prije izbora, slovačko pravosuđe do dan danas nije utvrdilo tko ju je pustio u javnost. Kaznenu prijavu odmah nakon njezine objave podigla je novinarka Monika Tódová, no policija ju je prvi puta odbacila nakon nekoliko tjedana zaključivši da, iako su istražitelji utvrdili da je jasna krivotvorina, nije bila uvjerljiva i zbog toga nije mogla utjecati na znatan broj glasača. No, tužitelji su imali drugačije mišljenje te su naredili policiji da ponovno otvori slučaj. Nakon jednogodišnje ponovne istrage, policija je zaključila da ne mogu pronaći izvor i pokrenuti kaznenu prijavu protiv određene osobe. Na takav zaključak žalila se novinarka Tódová, a tužitelj treba ponovno odlučiti o njezinoj žalbi
Zamke dosadašnjih hrvatskih izbora
Dok je fokus našeg teksta na lažnim AI generiranim snimkama, dobro se podsjetiti na slučajeve tajno snimljenih snimki koje su se ranije pojavljivale u hrvatskoj politici, a politički analitičari procjenjivali su da su one u većoj ili manjoj mjeri utjecale i na rezultate izbora. Riječ je tada bila o autentičnim, ali tajno snimljenim snimkama koje pokazuju da takav sadržaj može utjecati na izborni proces i odluke birača na biralištima.
Mjesec dana prije izvanrednih parlamentarnih izbora 2016. godine, zakazanih zbog pada kratkotrajne Vlade nestranačkog premijera Tihomira Oreškovića, kojega su nakon višemjesečnih pregovora, a poslije vrlo tijesnih izbornih rezultata, imenovali HDZ Tomislava Karamarka i Most Bože Petrova, u javnost izlazi tajno snimljena snimka razgovora tadašnjeg predsjednika SDP-a Zorana Milanovića s braniteljskim udrugama na kojoj pretendent za novi premijerski kandidat vrijeđa susjedne države.
Tajna snimka nominalno lijevog kandidata s udrugama branitelja, koje slove za bastione desnice, a koje su samo nekoliko mjeseci ranije “kampirale” ispred Ministarstva branitelja i tražile smjenu Milanovićeva ministra i njegovih suradnika, izazvala je veliku pozornost javnosti i vjerojatno utjecala na rezultate rujanskih izbora koje Milanović gubi od predsjednika HDZ-a Andreja Plenkovića. Tada, 2016. godine, Milanović je potvrdio autentičnost snimke razgovora s braniteljima.
Nekoliko dana prije parlamentarnih izbora u travnju 2024. godine, tjednik Nacional na svojim internetskim stranicama i u tiskanom izdanju dan prije predizborne šutnje objavljuje tajno snimljenu snimku govora predsjednika HDZ-a Andreja Plenkovića sa zatvorenog stranačkog sastanka na kojoj vrijeđa predsjednika Domovinskog pokreta Ivana Penavu i druge političke aktere. Kao i u slučaju Milanovića, niti Plenković nije osporio autentičnost te snimke.
Funkcija botova
U upravo održanim izborima nije bilo AI snimki, ali primijećena je prisutnost AI alata. Još u prvom krugu predsjedničkih izbora društvena mreža TikTok potvrdila je Faktografu da je uklonila preko 7 tisuća botova, odnosno neautentičnih pratitelja, s profila nezavisnog kandidata, s podrškom HDZ-a i partnera, Dragana Primorca.
Uoči drugog kruga predsjedničkih izbora, Primorac je Milanovića optužio da radi za strane interese na temelju istraživanja kojeg je objavio londonski Centar za informacijsku otpornost (CIR), a u kojem se navodi kako su „hrvatski istraživači, u partnerstvu s CIR-om, otkrili naznake prokremaljske dezinformacijske kampanje koja koristi veliku mrežu botova pred drugi krug izbora u Hrvatskoj“.
“Pronađene su proruske, anti-EU i anti-NATO mreže botova koje konstantno hvale predsjednika Zorana Milanovića i amplificiraju promilanovićevski sadržaj, dok istovremeno dijele anti-EU i anti-NATO poruke”, stajalo je u tom izvještaju koji je potaknuo Primorca na izjavu da su čak i “ugroženi rezultati predsjedničkih izbora”.
No, cijelo to izvješće se pokazalo prilično nevjerodostojno, a za neke račune za koje se u izvještaju navodi da su botovi, utvrdilo se da su iza njih stvarne osobe. Također, društvene mreže X, TikTok i Meta potvrdile su da nisu pronašli dokaze o neautentičnim računima ili botovima koji bi utjecali na hrvatske izbore, a jedini botovi koji su utvrđeni bili su oni na TikTok profilu Dragana Primorca.
HAKOM: Na izborima nije zabilježeno korištenje AI sadržaja za širenje dezinformacija
Kada govorimo o stvaranju snimaka s lažnim izjavama političara i drugih javnih osoba, koje se jednostavno šire društvenim mrežama, na Faktografu smo ih u posljednjih godinu i pol detektirali više desetaka.
Te snimke, međutim, nisu išle u smjeru uplitanja u političke procese, već su korištene kao “dokazi autentičnosti” raznih prevara – od prodaje sumnjivih lijekova do reklamiranja nepostojećih investicijskih platformi. Na nedavnim parlamentarnim, europskim i predsjedničkim izborima takvih drastičnih primjera korištenja generiranih AI snimki u izbornom procesu nije bilo. To nam je u odgovoru nakon održanih predsjedničkih izbora potvrdio i hrvatski koordinator za digitalne usluge HAKOM (Hrvatska regulatorna agencija za mrežne djelatnosti) kojem je jedna od zadaća i provedba EU-ova Akta o digitalnim uslugama (DSA).
“Nismo imali zabilježenih prijava (bilo posredno ili neposredno) vezanih uz korištenje alata za generiranje AI sadržaja u svrhu dezinformiranja javnosti”, stoji u odgovoru Lidije Antonić, koordinatorice za regulaciju digitalnih usluga u HAKOM-u.
Akt o digitalnim uslugama
Kao što je objašnjeno u tekstu na internetskim stranicama Udruge Faktograf, Akt o digitalnim uslugama (Digital Services Act – DSA) Europski je parlament usvojio u listopadu 2022. godine sa ciljem da spriječi nezakonite i štetne aktivnosti na internetu i širenje dezinformacija. Među rizicima koji prijete na društvenim mrežama u tom aktu navode se i “stvarni ili predvidljivi negativni učinci na demokratske procese, građanski diskurs i izborne procese te na javnu sigurnost”.
Prema Aktu “pružatelji vrlo velikih internetskih platformi i vrlo velikih internetskih tražilica s dužnom pažnjom utvrđuju, analiziraju i procjenjuju sve sistemske rizike u Uniji koji proizlaze iz dizajna ili funkcioniranja njihove usluge i njezinih povezanih sustava, među ostalim algoritamskih sustava, i od korištenja njihovih usluga”, a kod provođenja procjene rizika moraju u njih uvrstiti i “sve stvarne ili predvidive negativne učinke na građanski diskurs i izborne procese te na javnu sigurnost”.
Kao što smo ranije naveli, pojava takvih generiranih AI snimki s lažiranim izjavama izbornih sudionika te njihovo širenje velikom broju korisnika društvenih mreža, zasigurno bi imalo negativne učinke na izborni proces, koji se spominje u Aktu.
Hrvatska kasni s implementacijom
Hrvatska u velikoj mjeri kasni s implementacijom toga Akta. Procedura je pokrenuta na kraju mandata prošle Vlade Andreja Plenkovića te je tek u siječnju 2024. godine Ministarstvo gospodarstva objavilo javno savjetovanje o Nacrtu Zakona o provedbi Akta o digitalnim uslugama. Do srpnja nije bilo drugih pomaka, pa je Europska komisija pokrenula proces protiv Hrvatske zbog povrede prava EU-a. Krajem kolovoza nova Vlada, u kojoj je brigu o DSA preuzelo Ministarstvo pravosuđa, uprave i digitalne transformacije, usvojila je Prijedlog Zakona, a krajem rujna Hrvatski sabor ga je raspravio u prvom čitanju.
Prema tom Prijedlogu, za nacionalnog Koordinatora za digitalne usluge koji zadovoljava stroge uvjete (neovisan od bilo kojeg vanjskog utjecaja, autonoman u upravljanju svojim proračunom, posjeduje dostatne tehničke, financijske i ljudske resurse) određuje se HAKOM.
Hrvatski sabor još nije usvojio Zakon o provedbi Akta o digitalnim uslugama niti mu je Vlada poslala Konačni prijedlog nakon Prijedloga iz kolovoza 2024. No, HAKOM je i tijekom predsjedničkih izbora mogao obavljati svoju ulogu koordinatora za digitalne usluge na temelju odluke Vlade koja ga je imenovala 14. veljače 2024.
HAKOM: Platforme su postupale u skladu s obvezama prema DSA
Uz to što su nam iz HAKOM-a napisali da tijekom izbora nisu imali zabilježenih prijava vezanih uz korištenje alata za generiranje AI sadržaja u svrhu dezinformiranja javnosti, u svom su odgovoru naveli da mogu “konstatirati da su platforme postupale u skladu sa svojim obvezama prema DSA”.
HAKOM nam je u odgovoru objasnio i što su kao koordinator za DSA radili kako bi osigurali da ne bude ometanja izbornog procesa.
“HAKOM je u ulozi koordinatora za digitalne usluge još od predizbornog razdoblja održavao redovitu komunikaciju s Europskom komisijom te organizirao pripremni okrugli stol s vrlo velikim internetskim platformama (VLOPs), državnim tijelima i relevantnim organizacijama civilnog društva (uključujući Faktograf) s ciljem osiguravanja integriteta izbornog procesa i uspostave komunikacijskih kanala kako bi se osigurala pravovremena reakcija za slučaj potrebe”, naveli su u odgovoru.
“Predsjednički izbori prošli bez značajnih incidenata”
Potvrdili su i da su prvi i drugi krug izbora prošli bez značajnih incidenata. “Platforme su pravovremeno reagirale na ograničen broj zaprimljenih prijava, među kojima su bile četiri prijave od strane GONG-a, jedna prijava Državnog izbornog povjerenstva (DIP) i jedna prijava primatelja usluge. Prijave su se uglavnom ispravno upućivale izravno platformama, dok je HAKOM bio obaviješten u svojstvu koordinatora. Dodatno, DIP je platformama Meta i Google uputio određene preporuke kako bi se primateljima usluga olakšao pristup provjerenom izvoru informacija vezanih uz izborna pitanja te ih obavijestio o razdoblju izborne šutnje”, naveo je HAKOM u odgovoru.
Postavili smo im i pitanje jesu li na izborima zabilježeni ikakvi sistemski rizici na društvenim platformama. “U odnosu na upit vezan uz sistemske rizike, pojašnjavamo kako analiza i procjena istih nije na koordinatorima država članica, već isključivo na pružateljima vrlo velikih internetskih platformi i vrlo velikih internetskih tražilica. U kontekstu hrvatskih izbora nijedna od platformi nije prepoznala da bi došlo do sistemskih rizika koji proizlaze iz dizajna ili funkcioniranja njihove usluge i njezinih povezanih sustava, među ostalim algoritamskih sustava, i od korištenja njihovih usluga”, odgovorili su iz HAKOM-a. Na kraju su nam potvrdili i da nisu zabilježili korištenje AI generiranih snimki za širenje dezinformacija u izbornom procesu.
Iako na izborima održanima u 2024. i početkom 2025. godine u Hrvatskoj nije zabilježeno korištenje AI generiranih snimki za širenje laži u izbornom procesu, slovački slučaj pojave lažne snimke političara i novinarke uoči izbora je najbolje prikazao zašto se države trebaju pripremiti i na takve scenarije te jačati institucije koje se bore protiv takvih štetnih praksi. Ta tehnologija se već koristi i u Hrvatskoj, na lažnim snimkama su se našli i političari, ali još uvijek samo u domeni prodaje lažnih proizvoda, dok ona još nije uključena i u političku borbu.
Novi test otpornosti na ovu novu štetnu praksu Hrvatskoj slijedi već u svibnju kada se održavaju lokalni izbori koji su često političkim akterima i bitniji od onih predsjedničkih jer je broj sudionika političke utakmice mnogo veći, a samim time je i veći broj političara koji bi u nekom trenutku mogli zaključiti da “cilj opravdava sredstvo” te se okrenuti i ovoj novoj tehnologiji u pokušaju osvajanja mandata.
