Prema analizi koju je proveo Faktograf, ključne teze vezane za razvoj umjetne inteligencije koje cirkuliraju društvenim mrežama u ovoj regiji slične su tezama koje se mogu sresti i u drugim zemljama, a mogu se svesti na nekoliko točaka.
AI tehnologije doživljavaju se istodobno kao pokretač napretka i izvor dubokih društvenih, ekonomskih i egzistencijalnih rizika. Potom, prisutna je svijest o rizicima manipulacija pokretanih i generiranih umjetnom inteligencijom kao što su deepfakeovi, lažne vijesti, lažna predstavljanja i slični, što može dovesti do povećanja nepovjerenja u medije i društvo u cjelini. Geopolitičke napetosti sve više uključuju i aspekt AI-a, osobito u kontekstu odnosa između globalnih sila te sigurnosti. Postoji zabrinutost oko masovne automatizacije rada, gubitka radnih mjesta i transformacije tradicionalnog zapošljavanja, uz konkretna pitanja o tome koja će zanimanja opstati. Prisutna je, također, i skepsa prema zapadnim i prema kineskim AI modelima, uz rasprave o lokalizaciji, suverenitetu i regulatornom nadzoru.
Od vijesti do teorija zavjere
Primijećeno je to u Faktografovoj analizi AI narativa koji cirkuliraju regijom, a koja je provedena uz korištenje monitoring-analitičkog sustava Gerluata Juno. Analizom je obuhvaćeno više od 1000 jedinica sadržaja objavljenih na više od 50 različitih stranica i kanala na društvenim mrežama Telegram, TikTok, Instagram, Youtube i Facebook, u razdoblju od ožujka do kolovoza 2025. godine.
Analiza je pokazala da se glavni narativi vezani za AI odnose na tehnološke, geopolitičke, ekonomske i društvene učinke AI-a, a objave se kreću od vijesti i analiza do teorija zavjere i spekulativnih komentara.
Za potrebe Faktografove analize, autorice Tajane Broz, koja je objavljena pod nazivom “Prevara poznatog lica – AI generirani sadržaji u SEE regiji” prikupljene su i informacije o sadržaju s kojim su se susretale članice SEE Check mreže i njihovi portali, a uz Faktograf.hr tu su Raskrinkavanje.me iz Crne Gore, Raskrinkavanje.ba iz BiH te FakeNews Tragač i RasKRIKavanje iz Srbije. Zajedničko svim tim portalima je to što se u svom radu bave monitoriranjem i razotkrivanjem dezinformacija, a s obzirom na sličnost jezika dezinformacije lako prelaze iz jedne zemlje u drugu. Prikupljene informacije ne predstavljaju sveobuhvatan prikaz AI generiranog sadržaja u SEE regiji, već proizlaze iz svakodnevnog rada portala i njihova monitoriranja sadržaja na društvenim mrežama.
Predmet analize je i to koliko se uočenog sadržaja odnosi na lokalne aktere i kontekste, a koliko na međunarodne, kao i na koje se teme taj sadržaj odnosi te pojavljuje li se u zemljama regije politički AI generirani sadržaj.
Najčešće je riječ o slikama i videu
Tijekom svog rada, a posebice u posljednje dvije godine, Faktograf je detektirao više od 60 AI generiranih sadržaja koji su predstavljali dezinformacije, odnosno manipulacije. Riječ je o sadržajima koji se najčešće pojavljuju u obliku videa i slika, dok je tekstualnih primjera zanemarivo malo, a isključivo audio sadržaji nisu zabilježeni.
U Faktografovom uzorku najprisutnije su dezinformacije vezane za Hrvatsku (40 %), a potom slijede i globalni sadržaji, poput onih iz SAD-a, Bliskog istoka i Europe.
U slučaju lokalnih AI generiranih dezinformacija, one se gotovo isključivo odnose na financijske i zdravstvene prevare. Osim toga, među hrvatskim se korisnicima često pojavljuju AI generirane manipulacije povezane s inozemnom politikom, ratovima te elementarnim nepogodama.
To ukazuje da se manipulativni i lažni sadržaji pojavljuju u vrijeme kriza i u vezi s društveno osjetljivim temama te služe promoviranju narativa o tim događanjima (primjerice izazivanju sućuti prema žrtvama rata ili diskreditiranju političara).
Lokalno kreirane AI dezinformacije uglavnom radi financijskih prevara
AI generirani sadržaji koji se odnose na prevare najčešće zloupotrebljavaju fotografije i video snimke novinara, političara, državnih dužnosnika i znanstvenika, posebice liječnika, navodi se u analizi. Prevaranti kreiraju deepfake video sadržaje koji simuliraju ili koriste televizijske emisije, odnosno novinarske intervjue, a gosti, političari ili znanstvenici u njima govore o mogućnostima za brzu zaradu ili magičnim lijekovima za raširene zdravstvene poteškoće.
Ako promatramo specifično izborna razdoblja, Faktograf u svojem izvještaju o dezinformacijama tijekom lokalnih izbora 2025. “Činjenice iza kampanje” navodi kako su na početku superizborne 2024./2025. godine postojale bojazni o mogućem utjecaju dezinformacija generiranih pomoću umjetne inteligencije na izborni proces, ali ti se strahovi nisu ostvarili.
Politički sadržaji
AI generirani audio i video politički sadržaj u pravilu čine dvije velike skupine. Prva su prevare koje koriste AI generirane snimke političara, o čemu je već bilo riječi, a drugo su satira, ismijavanje, politički komentar i politička propaganda, pri čemu se nerijetko pribjegava difamacijama, stereotipima pa i širenju mržnje, posebno prema migrantima, stranim radnicima i LGBTIQ+ zajednici. Vrlo često AI kreirani video sadržaj nije jasno označen, no iz tona i narativa koji se u tim videima koriste, jasno je da se radi o političkoj propagandi, a ne pokušaju da se birače uvjeri da im se prikazuju stvarni događaji.
U Srbiji je situacija donekle drugačija. U RasKRIKavanju navode da su tijekom svojeg rada uglavnom bilježili AI sadržaj lokalnog karaktera, odnosno ticao se aktualnosti u Srbiji. Tako je u travnju jedan zastupnik vladajuće stranke objavio AI generiranu fotografiju s namjerom diskreditacije studenata u blokadi, a koja prikazuje studente kako jedu za stolom, dok iznad njih visi velika hrvatska zastava. Ova objava je za samo nekoliko sati došla do preko 11 000 pregleda, 120 dijeljenja i više od 200 lajkova, navodi se u tekstu na RasKRIKavanju.
Također, na pojedinim nacionalnim televizijama dijeljeni su AI generirani sadržaji s krivotvorenim izjavama opozicijskih srpskih političara, pri čemu često ne bi postojala napomena o korištenju AI-a za nastanak tih sadržaja.
“No, čak i kada uključuje napomenu, vrlo je upitno koliko je ona dovoljna da publici ovih medija ukaže na neautentičnost prikazanih audio-vizualnih snimaka”, ističe Teodora Koledin, novinarka Fake News Tragača.
Tekstualne dezinformacije se teže primijete
Analiza koju je proveo Faktograf poklapa se s ranijom analizom “GOING VAIRAL – Viralnost sadržaja kreiranih pomoću AI” koju je objavio portal Fake News Tragač u veljači 2025. Pokazalo se kako su najzastupljenije vizualne manipulacije – lažne fotografije i deepfake videi.
Autori te analize posebno ističu da, iako su vizualne AI manipulacije u njihovom uzorku zastupljenije od tekstualnih, to ne znači da u stvarnosti tekstualnih ima manje, već da su teže uočljive i dokazive. Naime, alati kojima se mogu detektirati lažne fotografije i video sadržaji, iako su daleko od nepogrešivih, trenutno su ponešto pouzdaniji od onih koji detektiraju AI generirani tekst.
Analiza pokazuje da se AI dezinformacije i manipulacije šire kroz tri ključna obrasca: brzina (nastaju i šire se u minutama, dok provjere točnosti i moderacija sadržaja kasne, što stvara “ranjive periode” za masovni doseg); skalabilnost (jednom uspješan format lako se umnožava u stotinama varijacija) te emocionalna manipulacija (izazivaju snažne reakcije publike).
U svim državama obuhvaćenima analizom bilježi se zloupotreba AI sadržaja za financijske i medicinske prevare, a zajednički je obrazac zloupotreba prepoznatljivih javnih osoba kako bi se stvorio dojam vjerodostojnosti.
Kaskanje institucija
Nažalost, u Hrvatskoj institucije malo toga poduzimaju kako bi zaštitile žrtve prevare, uključujući i osobe čije se ime i lice koristi za prevaru. Kako navodi Faktografov novinar Ivan Nekić u svome tekstu Što sve hrvatske institucije (ne)čine po pitanju prevara generiranih umjetnom inteligencijom, legislativa ne prati tehnološki razvoj te unutar MUP-a ne postoji posebna statistika koja bi se mogla iskoristiti za provjeru koliko je ovakvih slučajeva uopće zabilježeno. Tijela koja prema europskoj i nacionalnoj legislativi, poput DSA-a, imaju ovlasti prijavljivati nezakonit sadržaj platformama se tek upoznaju s vlastitim ovlastima, ali i u tim slučajevima radi se samo o uklanjanju sadržaja, ne i otkrivanju i kažnjavanju počinitelja.
S obzirom na to da druge države bilježe sve veći broj AI generiranih kaznenih djela, jasno je da kaskanje hrvatskih institucija za tehnološkim razvojem može ugroziti sigurnost građana, navodi se u analizi.
Nimalo bolja nije situacija niti u ostatku SEE regije koja, s obzirom na to da njezine države nisu članice Europske unije, nemaju niti pokrivenost postojećim europskim zakonodavstvom. O tome je opsežno za SEE Check pisala Maida Salkanović u članku Why the Western Balkans Need the Digital Services Act, ističući kako je nacionalno zakonodavstvo u regiji vrlo slabo.
Prema istraživanju koje je provela organizacija Partneri za demokratske promene Srbija, napori za usklađivanje nacionalnog zakonodavstva s načelima DSA-a bili su fragmentirani i nedovoljni. Umjesto donošenja jedinstvenog regulatornog okvira koji bi sustavno obuhvatio odgovornost platformi, transparentnost algoritama i zaštitu korisnika, došlo je tek do izolirane izmjene postojećih zakona, poput onih koji se odnose na audiovizualne medije ili zaštitu potrošača.
Uz prevare, značajnu cirkulaciju u regiji imaju sadržaji koji se tiču globalnih događanja, posebice vezano za političare, ratove i elementarne nepogode. Organizacije koje se bave razotkrivanjem AI generiranih manipulacija često nailaze na identične sadržaje među korisnicima društvenih mreža u pojedinoj zemlji što ukazuje na značajnu transnacionalnost dezinformacijskog sadržaja.
U regiji primjećujemo i prisutnost zabavnog, satiričnog i drugog AI generiranog sadržaja koji je ili označen kao AI ili je “na oko” vidljivo da se ne radi o autentičnom sadržaju – mada smo u više navrata primijetili da je i takav sadržaj među određenim korisnicima izazvao debate ili teorije zavjere. Posebno zabrinjavaju slučajevi objave AI generiranih sadržaja u mainstream medijima, pri čemu se u nekim slučajevima radi o nekritičkom preuzimanju takvog sadržaja, ne provjeravajući prethodno njegovu autentičnost, ili svjesnom plasiranju takvog sadržaja bez da su gledatelji jasno informirani da se radi o AI generiranom sadržaju.
