Alati umjetne inteligencije u velikoj su mjeri postali dio naše svakodnevice. Gotovo da više i ne prođe dan da ne iskoristimo neke od alata generativne umjetne inteligencije poput ChatGPT-ja, Perplexityja, Deepseeka, Groka, Geminija i brojnih drugih za pomoć od najbanalnijih stvari poput recepata do prijevoda tekstova, pronalaska bazičnih informacija i još puno toga.
Spomenuti alati, naravno, vrlo su popularni i kod djece i mladih, posebno onih u osnovnim i srednjim školama. Alati generativne umjetne inteligencije često su u upotrebi za rješavanje zadataka, pisanje seminarskih i ostalih radova, pa čak i za rješavanje ispita, s obzirom na to da danas gotovo svako dijete ima pametni telefon koji ima pristup internetu, a samim time i alatima umjetne inteligencije.
Više profesora s kojima smo razgovarali, a koji predaju u osnovnim i srednjim školama te na fakultetima, govore nam da su odustali od traženja seminarskih radova ili bilo kakvih domaćih zadaća. “Ne da nam se ni čitati ono što je napisao ChatGPT, radije pribjegavamo nekim zadacima koji se rade uživo na nastavi”, tako bi se moglo sumirati ono što nam je kazalo više profesora koji rade u osnovnoškolskom, srednjem i visokom obrazovanju.
Digitalne tehnologije u obrazovanju
Koliko je upotreba alata umjetne inteligencije zaista raširena kod djece i mladih u Hrvatskoj u kontekstu obrazovanja?
Istraživanje koje su CARNET i Hrvatsko katoličko sveučilište proveli u školskoj godini 2024./2025. u sklopu projekta Brain pokazuje da je upotreba chatbotova poput ChatGPT-ja, Perplexityja i sličnih sve raširenija.
Prema istraživanju koje je provedeno u 46 škola (24 osnovne i 22 srednje) u 16 županija, alate umjetne inteligencije, većinom chatbotove, za učenje gotovo svakodnevno koristi oko 26 % osnovnoškolaca i 40–50 % srednjoškolaca.
Učenici navode da ChatGPT i slične alate koriste za traženje informacija, pomoć u pisanju i matematici, za rješavanje zadataka, objašnjavanje gradiva i kao pomoć pri izradi skripti. Ipak, ono što ističu nastavnici jest da učenici rijetko provjeravaju izvore i informacije koje im nude alati generativne umjetne inteligencije. AI alati u svojim odgovorima nerijetko samouvjereno lažu ili pak prilagođavaju rezultate pretrage kako bi nam pogodovali, stoga je, smatraju stručnjaci, važno potaknuti kritičku svijest kod djece i mladih da se rezultati koje dobivaju ne trebaju uzimati zdravo za gotovo.
“Rezultati istraživanja pokazuju da se digitalne tehnologije u obrazovanju istodobno doživljavaju kao prilika i izazov. Porastom uporabe umjetne inteligencije u obrazovnom kontekstu ističe se potreba za jasnim smjernicama, jačanjem infrastrukture i kontinuiranom edukacijom kako bi se svi dionici osnažili za odgovorno i svrhovito korištenje novih tehnologija”, kazala je voditeljica istraživačkog tima na HKS-u, profesorica Marina Merkaš prilikom predstavljanja rezultata održanog u Nacionalnoj i sveučilišnoj knjižnici u Zagrebu.
AI učinkovit u kreiranju dezinformacija
Osim toga što, kao što smo već kazali, umjetna inteligencija zna samouvjereno lagati i plasirati dezinformacije, vrlo je učinkovita i u kreiranju deepfake videa. Radi se o tipu sintetičkih video i audio sadržaja koji se koriste za promoviranje dezinformacija.
Kako je Faktograf već pisao, da bi kreirali uvjerljivu sintetsku kopiju nečijeg glasa ili stasa, AI alatima je potreban materijal iz kojeg mogu učiti. Drugim riječima, AI alate najprije je potrebno “nahraniti” postojećim autentičnim snimkama osoba čiji se identitet koristi za promoviranje dezinformacija i prevara, zbog čega prevaranti i propagandisti nužno posežu za snimkama koje su im lako dostupne (npr. na YouTubeu i sličnim servisima).
Isprva su prevaranti koristili samo AI alate za kloniranje glasa. Spomenuti pokušaji prevare stoga su isprva izgledali gotovo identično; preko autentične snimke puštan je umjetno kreirani audio zapis s vjernom imitacijom tona i boje glasa. Međutim, kako je vrijeme odmicalo, prevaranti su se učili novim metodama.
S obzirom na to da su djeca i mladi jedni od najčešćih korisnika interneta, društvenih mreža i alata umjetne inteligencije, opravdana je zabrinutost za njihovu sigurnost. Naime, deepfake videi i oglasi najčešće se koriste upravo kako bi od korisnika izvukli novčanu korist ili došli do osobnih podataka korisnika.
Izloženost digitalnim rizicima
Učenici se u digitalnom okruženju susreću s različitim rizicima. Najčešće su, pokazalo je spomenuto istraživanje, izloženi rizicima konzumerizma, pri čemu je oko 40 % učenika izjavilo da je svakodnevno ili više puta dnevno izloženo reklamama za proizvode ili usluge dok koriste internet, aplikacije ili igrice ili gledaju reklame influencera na društvenim mrežama. Nadalje, od 12 do 20 % učenika procijenilo je da su svaki dan ili više puta dnevno izloženi rizičnim sadržajima (npr. netočnim sadržajima, sadržajima mržnje usmjerenima prema skupinama ili pojedincima zbog njihovih obilježja, sadržajima koji potiču na mršavljenje ili izrazitu mršavost tijela, kao i sadržajima koji potiču ili prikazuju uzimanje sredstava ovisnosti).
Naposljetku, do 10 % učenika izjavilo je da su na dnevnoj (svaki dan ili više puta dnevno) ili tjednoj (nekoliko puta tjedno) razini izloženi digitalnim rizicima iz kategorije rizičnih kontakata (npr. doživljavanje elektroničkog nasilja, krađa podataka ili kontakti s nepoznatim osobama), kategorije rizičnih ponašanja (npr. činjenje elektroničkog nasilja) te kategorije poprečnih rizika (npr. javna objava njihovih podataka bez njihova dopuštenja ili samostalna javna objava vlastitih podataka). Najveći udio učenika slučajeve uznemiravanja na internetu ili društvenim mrežama povjerava prijateljima (70-80 %) te roditeljima/skrbnicima (45-65 %).
U fokus grupama učenici su navodili da svakodnevno provode puno vremena u korištenju mobitela, a postojeći obrasci upućuju na nedostatak ravnoteže, odnosno teškoće u reguliranju vremena i svrhovitosti korištenja tehnologija. Kao pozitivne učinke korištenja tehnologija učenici navode da su poboljšali znanje stranih jezika, informatičke vještine i stekli nova korisna znanja, ali prepoznaju i negativne učinke poput slabljenja međuljudskih odnosa, osiromašenja vokabulara, dok osnovnoškolci navode nervozu i ljutnju pri oduzimanju uređaja.
Pokušaj opozicije za regulacijom
SDP i Možemo su u ožujku ove godine u saborsku proceduru uputili Zakon o digitalnoj zaštiti djece kojim su predložili ograničenja društvenih mreža u smislu zabrane otvaranja profila mlađima od 15 godina bez pristanka roditelja te uvođenje provjere dobi, kao i zabranu mobitela u osnovnim školama te filtrirane školske mreže kojima bi se blokirao štetan sadržaj.
Kako je u saborskoj raspravi istakla zastupnica Možemo Ivana Kekin, djeca između devet i petnaest godina u Hrvatskoj provode više od tri sata dnevno na ekranu; 70 posto učenika viših razreda osnovne škole izjasnilo se da provodi više od tri sata online, djeca profile na društvenim mrežama otvaraju s deset godina, trećina doživljava nasilje barem jednom mjesečno, a četvrtina je, barem jednom mjesečno, počinitelj online nasilja.
“Algoritmi koji slažu sadržaje nisu neutralni i njihov cilj je, kao i kod svake ovisničke industrije, da konzumirate što više, pa tako i ova industrija želi da ne prestanete skrolati, i to radi tako da nudi upravo one sadržaje koji će poticati ekstremne emocije, kratko okidanje dopamina u glavi kod djece snažnije i intenzivnije nego kod odraslih, kratko zadovoljstvo i potrebu za još”, pojasnila je Kekin.
Zastupnica SDP-a Sabina Glasovac je pak kazala da digitalni svijet djecu prerano uvodi u svijet uspoređivanja, pritiska i javnog vrednovanja. Digitalni prostor danas odgaja djecu jednako snažno kao roditelji i škola, ako ne i snažnije, no, u digitalnom prostoru ne postoje jasna pravila i nema jasne odgovornosti, naglašava.
“Hrvatska djeca internet počinju koristiti sa šest, prve mobitele u prosjeku dobivaju s osam godina, prve profile na društvenim mrežama otvaraju s 10 godina i u prosjeku dnevno provode više od tri sata na društvenim mrežama. Svako treće dijete doživljava online nasilje i svako sedmo dijete barem jednom u životu dogovorilo je online susret s neznancem”, pojasnila je Glasovac, dodajući da algoritmi i društvene mreže zarađuju na zadržavanju pažnje i time potiču ovisničko ponašanje.
Zakonski prijedlog, isticali su iz SDP-a i Možemo, počiva na tri snažna stupa: škola kao sigurna zona, roditelj kao saveznik i država kao regulator, dodajući da roditeljima žele poručiti da nisu sami.
Iako spomenuti prijedlog ne spominje direktno umjetnu inteligenciju i alate umjetne inteligencije, treba spomenuti da su društvene mreže te svi ostali sadržaji na internetu prepuni sadržaja koje je generirala umjetna inteligencija. Zakonom se tražila regulacija digitalnog okruženja djece, uključujući algoritme i platforme što indirektno obuhvaća i umjetnu inteligenciju.
Kako se korištenje platformi i AI alata za djecu regulira u svijetu?
Regulacija umjetne inteligencije pokušava se usustaviti u državama članicama Europske unije već neko vrijeme, a jedan od akata koji se time bavi jest istoimeni Akt o umjetnoj inteligenciji, odnosno AI Act. Njime se, primjerice, zabranjuje AI sadržaj koji iskorištava ranjivost djece.
Francuski predsjednik Emmanuel Macron je, govoreći na AI summitu održanom prošloga mjeseca u indijskoj prijestolnici New Delhiju, pozvao na strože zaštitne mjere nakon skandala zbog korištenja chatbota Grok Elona Muska za generiranje desetaka tisuća seksualiziranih slika djece, a u kontekstu sve veće zabrinutosti zbog koncentracije moći umjetne inteligencije u rukama nekoliko kompanija.
Na njega se nadovezao i glavni tajnik UN-a António Guterres koji je u obraćanju kazao da “niti jedno dijete ne bi trebalo biti testni predmet za nereguliranu umjetnu inteligenciju”.
“O budućnosti umjetne inteligencije ne može odlučivati nekoliko zemalja niti se prepuštati hirovima nekoliko milijardera. Umjetna inteligencija mora pripadati svima”, rekao je Guterres.
Istraživanje koje su u veljači objavili UNICEF i Interpol, a koje je provedeno u 11 zemalja, otkrilo je da je najmanje 1,2 milijuna djece u posljednjih godinu dana prijavilo da su njihove slike manipulirane u seksualno eksplicitne deepfake sadržaje. U nekim zemljama, jedno od 25 djece – što odgovara jednom djetetu u svakoj učionici – bilo je žrtva deepfake sadržaja.
“Nema razloga da naša djeca budu izložena online onome što je zakonski zabranjeno u stvarnom svijetu. Naše platforme, vlade i regulatorna tijela trebaju surađivati kako bi internet i društvene mreže postali sigurno mjesto. Zato u Francuskoj pokrećemo proces zabrane društvenih mreža za djecu mlađu od 15 godina”, rekao je Macron.
U Danskoj se također ide s prijedlogom da se društvene mreže zabrane mlađima od 15 godina uz određene iznimke, a o sličnom razmišljaju i u Španjolskoj, samo oni razmišljaju o zabrani društvenih mreža mlađima od 16 godina.
Španjolska pozvala na istragu protiv X-a, TikToka i Mete
Španjolska vlada na čelu s premijerom Pedrom Sanchezom je u veljači ove godine, podsjetimo, pozvala na kriminalističku istragu Mete, TikToka i X-a zbog njihove navodne uloge u produkciji i širenju materijala o seksualnom zlostavljanju djece generiranih umjetnom inteligencijom.
“Vijeće ministara će se pozvati na Članak 8. Statuta Državnog tužiteljstva kako bi zatražilo da se istraže zločini koje X, Meta i TikTok mogu počiniti kroz stvaranje i širenje dječje pornografije pomoću vlastite umjetne inteligencije,” poručio je španjolski premijer. Sánchez je optužio platforme za “napad na mentalno zdravlje, dostojanstvo i prava naše djece”, dodajući da “nekažnjivost divova mora prestati”, aludirajući na velike tehnološke kompanije.
Ujedinjeno Kraljevstvo, pak, ima Online Safety Act koji propisuje da platforme moraju uklanjati štetan sadržaj namijenjen djeci, a planira se i proširenje obuhvata tog akta na AI chatbotove.
Globalni pionir u zabrani društvenih mreža za djecu jest Australija koja je već usvojila zabranu njihovog korištenja za sve mlađe od 16 godina. Kako pojašnjava Reuters, australski zakon prisilio je velike društvene mreže da od 10. prosinca 2025. blokiraju maloljetnike mlađe od 16 godina, što je jedna od najstrožih regulativa na svijetu usmjerenih na velike tehnološke platforme. Tvrtke koje se ne budu pridržavale pravila mogu se suočiti s kaznama do 49,5 milijuna australskih dolara (34,7 milijuna američkih dolara).
Iako na razini Europske unije postoje zajednički napori za regulaciju društvenih mreža i AI chatbotova koji se masovno koriste kod djece i mladih, zabrana korištenja društvenih mreža za djecu mlađu od 16 godina još uvijek je u većini zemalja Europske unije pa i svijeta tek ideja. Iako podaci u Hrvatskoj pokazuju da društvene mreže, pa i AI chatbotove, djeca i mladi iz godine u godinu sve više koriste, dosad nisu zabilježeni konkretni pomaci. Spomenuti zakonski pokušaj Možemo i SDP-a vladajuća većina je preglasavanjem odbila.
