Razotkriveno

Facebookom se širi vrlo uvjerljiva AI generirana snimka Zorana Šprajca

U lažnom intervju generiranom alatom umjetne inteligencije glas RTL-ova urednika Zorana Šprajca vrlo je sličan izvornom njegovu glasu.
Screenshot: Net.hr

Na Facebook stranici “Lipik -Video stranica” objavljen je video (status arhiviran ovdje) urednika i voditelja Zorana Šprajca koji u studiju RTL-a govori o tome da je predstavnik farmaceutske kompanije poznatog kardiologa nekoliko puta udario u lice zbog njegovih izjava, a kasnije u videu vidi se navodni intervju s liječnikom Zoranom Đogašem, koji je bio HDZ-ov kandidat za gradonačelnika Splita na prijevremenim lokalnim izborima održanima u lipnju i srpnju 2022. godine.

Status je 21. siječnja Facebook stranica “Lipik – Video stranica” prenijela s profila Benny na kojem je objavljena dva dana ranije – 19. siječnja (arhivirano ovdje). No, ne radi se o autentičnoj snimci Šprajca i Đogaša, već o snimci koju je generirao alat umjetne inteligencije.

Screenshot/Facebook

U videu se izgovara sljedeće:

Jutros u eteru predstavnik farmaceutske tvrtke napao je kardiologa i nekoliko puta ga udario u lice. Poznati kardiolog poznat po liječenju tisuća pacijenata s hipertenzijom bez lijekova prišao je mikrofonu i neočekivano izjavio da 95 posto hrvatskih umirovljenika ne živi do 66. godine. Uspjeli smo intervjuirati liječnika.

Liječnik: Jutros sam napadnut i ne mogu više šutjeti i otkrit ću istinu. U Hrvatskoj tisuće umirovljenika svakodnevno umiru od hipertenzije jer se u ljekarnama prodaju dude. Većina ljudi s hipertenzijom jedva preživi 65 godina ili završi u invalidskim kolicima nakon moždanog udara. Ali razvio sam lijek koji koristim za čišćenje krvnih žila jednom godišnje, uklanja do 7 kila krvnih ugrušaka dnevno.

Iako se ne navodi identitet tog ‘poznatog kardiologa’ koji daje intervju Zoranu Šprajcu, jasno je da se radi o bivšem kandidatu HDZ-a na splitskim lokalnim izborima Zoranu Đogašu.

Prijavite se na F-zin, Faktografov newsletter

Prijava

Prijavom pristajete na Uvjete korištenja i Politiku privatnosti.

Vrlo vjerna deepfake snimka

Zoran Šprajc potvrdio je za Faktograf da se taj intervju nije dogodio, odnosno da snimka nije autentična. Iako je to još jedna u nizu prevara, očito generirana umjetnom inteligencijom, a o kojima je Faktograf proteklih mjeseci često pisao, treba reći da je napravljena najuvjerljivije dosad.

Ipak, po nekim elementima može se primijetiti da se ne radi o autentičnoj snimci, odnosno da se radi o deepfake videu. Prvi znak da se radi o lažnoj snimci generiranoj umjetnom inteligencijom jest način na koji voditelj neuvjerljivo izgovara 66. godine, a u nastavku se može primijetiti da voditelj uopće ne vodi taj razgovor, niti se igdje čuje bilo kakav glas što također budi sumnju u autentičnost videa.

Također, snimka tučnjave u pozadini nije zabilježena prilikom snimanja RTL-ovih emisija, niti se radi o sadržaju koji je snimila bilo koja hrvatska televizijska kuća, kao što se niti ne radi o tučnjavi zbog otkrića bilo kakvog lijeka. Incident, koji je kulminirao fizičkim obračunom, zabilježen je u Ukrajini, na televiziji NewsOne, za vrijeme snimanja emisije Epicentar 2018. godine (arhivirano ovdje). Kako je Faktograf pisao u prosincu prošle godine, tučnjava koja se koristi u videu preuzeta je s ukrajinske televizije, kada je jedan novinar s navedene televizije napao proruskog ukrajinskog političara. Ista snimka koristila se nedavno i kao “dokaz” da je u studiju pretučen jedan drugi hrvatski medicinski stručnjak – Ivan Đikić. I u tom slučaju se radilo o montaži te snimke u prilog s AI generiranom snimkom Đikića.

Đogašu u AI generiranoj snimci dodane modrice na licu

Bivši HDZ-ov kandidat za gradonačelnika Splita Zoran Đogaš inače je neurolog zaposlen u Kliničkom bolničkom centru Split, profesor na Medicinskom fakultetu Sveučilišta u Splitu, a trenutno obnaša i dužnost prorektora za međunarodnu suradnju i suradnju s lokalnom zajednicom.

Za potrebe ovog videa generiranog umjetnom inteligencijom najvjerojatnije je korišten i materijal iz Đogaševog gostovanja u emisiji Otvoreni studio na Televiziji Dalmacija 20. svibnja 2022. Emisija se fokusirala na Đogaševu kandidaturu kao nestranačkog kandidata za gradonačelnika na listi HDZ-a za lokalne izbore u Splitu i nigdje se nisu spominjali bilo kakvi lijekovi za hipertenziju. Uostalom, Đogaševa specijalizacija je neurologija, a ne kardiologija. Također, pregledom autentične snimke vidljivo je da Đogaš nema modrice na licu, kao što je to u videu navodnog razgovora sa Šprajcom što dovodi do zaključka da su modrice dodavane na lice liječnika kako bi teza o tučnjavi u studiju bila uvjerljivija.

U statusu ispod videa postoji i gumb “Learn more”, no link ne vodi nigdje odnosno otvara praznu stranicu što znači da ju je Facebook već prepoznao kao malicioznu stranicu.

AI generirane audio snimke Beroša, Đikića, Elona Muska…

Faktograf je proteklih mjeseci pisao o čitavom nizu javnih osoba čije su se AI audio generirane snimke pojavile u prevarama na društvenim mrežama. Tako su objavljene slične AI generirane snimke ministra zdravstva Vilija Beroša, predsjednika Republike Zorana Milanovića, znanstvenika Ivana Đikića, novinarke i urednice televizije N1 Nine Kljenak, ali i Elona Muska. Uglavnom se AI generirane izjave u takvim objavama koriste kako bi korisnici Facebooka lakše povjerovali u autentičnost prevara koje su se, bez takvih snimki i samo u pisanoj formi, pojavljivale i ranije.

Na Facebooku se često pojavljuju statusi u kojima se poznate liječnike i medicinske stručnjake povezuje s otkrićima “čudotvornih lijekova”.  Naime, prevaranti vrlo često koriste društvene mreže, lažne intervjue s liječnicima i znanstvenicima, pa odnedavno i umjetnu inteligenciju, da bi građanima prodavali lažne i potencijalno opasne lijekove, došli do njihovih osobnih podataka ili povećali broj pratitelja na svojim Facebook profilima. Do prije otprilike pola godine ti su statusi, uglavnom, imali samo pisane lažne intervjue stručnjaka, dok je novija praksa ubacivanje i snimki generiranih umjetnom inteligencijom kako bi prevare djelovale autentičnije.

U snimci s lažnim intervjuom Zorana Šprajca i Zorana Đogaša njihovi glasovi i način na koji govore djeluju vrlo uvjerljivo, a korišten je i pokušaj spajanja onoga što govore s pomicanjem usana i drugih dijelova lica. Također, alat je izmijenio i kut u kojem je Đogaš na originalnoj snimci sjedio kako bi mu lakše stavili “modrice” na lice. To se može vidjeti po dijelu plavog natpisa “Televizija Dalmacija” koji je u generiranoj snimci “izvrnut” i blago “zasjenjen” kako bi se sakrio trag da se ne radi o gostovanju na RTL-u.

Kako nastaju deepfake snimke?

Kako je Faktograf nedavno pisao, da bi kreirali uvjerljivu sintetsku kopiju nečijeg glasa ili stasa, AI alatima je potreban materijal iz kojeg mogu učiti. Drugim riječima, AI alate najprije je potrebno “nahraniti” postojećim autentičnim snimkama osoba čiji se identitet koristi za promoviranje dezinformacija i prevara, zbog čega prevaranti i propagandisti nužno posežu za snimkama koje su im lako dostupne (npr. na YouTubeu i sličnim servisima). Takvi sintetički video i audio sadržaji koji se koriste za promoviranje dezinformacija nazivaju se deepfake.

Isprva su prevaranti koristili samo AI alate za kloniranje glasa. Spomenuti pokušaji prevare stoga su isprva izgledali gotovo identično; preko autentične snimke puštan je umjetno kreirani audio zapis s vjernom imitacijom tona i boje glasa. Međutim, kako je vrijeme odmicalo, prevaranti su se učili novim metodama. U AI generiranim snimkama novinara Bobića i predsjednika Milanovića korištena je tehnologija za sintetizaciju ne samo zvuka, nego i slike. Rezultat su nešto uvjerljiviji video zapisi, u kojima pokreti usana govornika doista prate ono što se izgovara. Ista tehnika očito je korištena i kod snimke Šprajca i Đogaša.

Zaključno, u postu na Facebooku radi se o još jednom u nizu lažnih videa generiranih umjetnom inteligencijom koji su sve češća pojava na društvenim mrežama.

Facebook
Twitter

Uočili ste objavu na društvenim mrežama i želite da provjerimo je li točna? Želite nas upozoriti na netočnu ili manipulativnu izjavu političara? Imate prijedloge, pohvale ili kritike? Pišite nam na [email protected] ili nas kontaktirajte putem Twittera ili Facebooka.