U hodnicima briselskih ureda europski birokrati trenutno vode žestoku borbu za umjetnu inteligenciju.
Ova borba ne uključuje čovjekolike robote slične onima u filmu Terminator ni samosvjesne mašine koje upravljaju ljudima kao u Matrixu, no mogla bi odlučiti kako će Europska unija, a zatim i svijet, upravljati moćima koje bi nam ova tehnologija mogla donijeti.
Sljedeći mjesec europski zakonodavci bi trebali donijeti nacrt Akta o umjetnoj inteligenciji EU s nadom da će konačni dogovor članica EU oko ovog akta biti postignut do kraja 2023. To je prvi zakon koji regulira rizike te tehnologije na svijetu te dolazi u vrijeme kada umjetna inteligencija, poznata pod kraticom AI (eng. artificial intelligence), utječe na sve više područja našeg života i to ne samo kroz poznate aplikacije poput ChatGPT-a koji koristi AI da pruži odgovor na bilo koje zadano pitanje.
˝Zašto je to bitno? AI je tu već oko nas˝, kaže Stefan Martinić, pravnik i savjetnik za Hrvatsku udrugu za umjetnu inteligenciju CroAI. ˝To nije neki samosvjesni robot koji osjeća i razmišlja kao čovjek, AI je ta aplikacija na mobitelu i na kompjuteru.˝
Želimo li ipak imati “čovjeka u petlji”?
Umjetna inteligencija predstavlja skupinu tehnologija koje na neki način imitiraju ljudsku inteligenciju, uključujući korištenje velikih količina podataka za prepoznavanje uzoraka i donošenje zaključaka. AI se tako nalazi u aplikacijama za online kupovinu gdje odlučuje koji će nam proizvod predložiti na temelju prijašnjih kupnji, u igrama poput šaha gdje bira koji potez će pobijediti ljudskog suparnika, analizirajući na tisuće prijašnjih partija ili uređajima poput digitalnog asistenta Alexe koji prepoznaju naš govor zahvaljujući beskrajnim satima audio materijala na kojima su trenirani.
No, umjetna inteligencija se ne koristi samo u bezazlenim proizvodima već i u situacijama u kojima loše odluke mogu imati ozbiljne posljedice. U 2016., američki medij ProPublica je tako otkrio da su suci u SAD-u koristili AI kako bi procijenili rizik ponavljanja zločina kod osuđenika, rezultirajući nepravednim odlukama koje su diskriminirale crnačku populaciju. Opasnost također predstavljaju sustavi koji koriste umjetnu inteligenciju u autonomnom oružju te u autonomnim vozilima koja bi u budućnosti trebala samostalno odlučivati kako se ponašati u prometu.
“Želimo li mi da o tome odlučuje program ili želimo imati ‘čovjeka u petlji’?” kaže Martinić, spominjući princip po kojemu sustavi umjetne inteligencije moraju imati čovjeka da prekontrolira odluke koje donosi stroj.
Rizici nisu samo nepravilne odluke, nego i privatni podaci koje takvi sustavi koriste. Umjetnu inteligenciju su počele koristiti tvrtke pri zapošljavanju, banke za procjenu kreditne sposobnosti te osiguravajuće kuće za procjenu premija, ponekad koristeći podatke o osiguranicima s njihovih društvenih mreža, online kupovine i drugih digitalnih tragova koje ostavljamo po internetu. Takvi sustavi otvaraju prostor za digitalnu diskriminaciju.
Klasifikacija po riziku
Brando Benifei i Dragoş Tudorache, europarlamentarci zaduženi za Akt o umjetnoj inteligenciji, smatraju da je jedna od najvećih opasnosti brzo širenje tehnologije za prepoznavanje lica odnosno biometrijskog nadzora koja se također oslanja na AI. Najbliži primjer uvođenja te tehnologije možemo naći u Srbiji gdje je vlast već dva puta pokušala uvesti zakon koji će dozvoliti tisućama kamera koje su već instalirane u Beogradu da koriste sustav za prepoznavanje lica, posljednji put u prosincu 2022. Odustajanje je uslijedilo nakon pritiska javnosti i civilnog sektora, uključujući beogradsku Fondacije Share.
˝Postoji sve veća zainteresiranost za tu temu i čini mi se da građani vide da takva vrsta nadzora ne služi samo borbi protiv organiziranog kriminala, terorizma i traganje za nestalom djecom već da je istovremeno i mehanizam za kontrolu društva˝, kaže Danilo Krivokapić iz Fondacije Share koji dodaje da su srbijanski građani svjesni kako takva tehnologija može biti problematična u autoritarnim državama. Ista tvrdnja može se primijeniti i na demokratske države.
˝Ne postoji jasan standard u EU pa ni nigdje drugo kako se koristi i što je dozvoljeno u korištenju biometrije˝, kaže Krivokapić.
Novi europski zakon o umjetnoj inteligenciji trebao bi osigurati sigurno, transparentno, etično i nepristrano korištenje te tehnologije tako da se podijeli u različite kategorije. AI sustavi tako će se klasificirati od neprihvatljivog rizika kojima slijedi stroga zabrana, do visokog, ograničenog, a zatim i minimalnog rizika, u kojem će regulacija biti dobrovoljna.
˝Ono u čemu je dobar [Akt o umjetnoj inteligenciji] jest da klasificira AI prema riziku, ovisno o tome koju funkciju ispunjavaju nose manje ili više rizika za cijelo društvo.˝ kaže Marko Porobija, partner u odvjetničkoj tvrtki Porobija & Špoljarić.
Strah od regulative
No, cilj EU nije samo reguliranje, ona također želi biti lider u razvoju ove tehnologije koja će u budućnosti postati sve veći dio ekonomije te promicati konkurentnost europskih tvrtki s američkim i kineskim tehnološkim divovima poput Googlea, Microsofta, Intela, Baidua i drugih.
Balansiranje ta dva cilja je područje oko kojeg se najviše lome koplja u Bruxellesu i razlog zašto Akt izaziva frustracije među tvrtkama koje kreiraju AI proizvode.
Martina Silov, izvršna direktorica udruge CroAI, kaže da je prva Bijela Knjiga Europske komisije o regulaciji AI u 2020. dobila preko tisuću komentara, uključujući od CroAI-a. Od tada su neki od prijedloga tvrtki usvojeni, no zabrinutost zbog rasta europske birokracije ostaje. Najveći problem koji bi Akt mogao predstavljati tvrtkama jest da se previše proizvoda svrsta u kategoriju visokog rizika, što bi moglo značiti da će tvrtkama biti komplicirano razvijati proizvode i dokazati njihovu sigurnost.
˝Zapravo se time onemogućuje dolazak malih startupova na tržište jer ako je njima preskupo ući, onda se njima to ne isplati˝, kaže Silov.
Hrvatska trenutno ima oko 130 startupova koji na neki način koriste AI. Postoji zabrinutost da bi tvrtke zbog nove regulative mogle odlučiti da zatvore svoje urede po Europi i presele u SAD gdje su zakoni povoljniji. Anketa applyAI, grupacije koja okuplja tvrtke koje rade u području AI, pokazala je da 51% ispitanika očekuje usporavanje aktivnosti razvoja umjetne inteligencije kao posljedicu Akta o umjetnoj inteligenciji. Porobija dodaje kako bi ovakav ishod mogao dovesti do toga da Europa jednostavno koristi kineske i američke proizvode umjesto europskih.
Brze promjene
Problem predstavlja i način kako umjetna inteligencija funkcionira. U računalstvu, crna kutija označava sistem u kojem su poznati podaci koji ulaze u sustav i podaci, odnosno zaključci, koji izlaze iz sustava, no nije poznato kako sam sustav funkcionira. Ako npr. AI programu stvorenom za vizualno prepoznavanje ponudimo mnoštvo fotografija bicikala, program će u budućnosti ispravno prepoznati bicikle na drugim fotografijama, no nećemo znati kako on točno ˝vidi˝ bicikl. Kreatori takvih sustava možda i ne trebaju znati kako oni funkcioniraju sve dok rade ispravno, no AI sustavi ponekad i griješe. Ovaj računalni problem je jedan od temeljnih uzroka nepovjerenja prema ovoj tehnologiji za koje ne postoji jednostavno rješenje.
˝Želi se postići da AI kao sustav na neki način bude reguliran. Kako regulirati nešto za što ni njegovi tvorci ne znaju kako radi?˝ kaže Porobija.
Akt o umjetnoj inteligenciji je također naišao na kritike zbog toga što se AI brzo mijenja i napreduje golemim koracima naprijed, donoseći nove, još kompliciranije probleme. Posljednji primjer upravo je ChatGPT, program koji je u samo dva mjeseca od javnog predstavljanja dobio 100 milijuna korisnika. Iako su velike tehnološke tvrtke požurile da naprave svoje verzije ChatGPT-a, stručnjaci upozoravaju da bi softver mogao dovesti do brojnih problema, od toga da ga studenti koriste za pisanje seminara do toga da se koristi u masovnoj proizvodnji dezinformacija.
˝Ljudi koji su pisali tu uredbu su u nju mogli staviti ono što su mogli zamisliti,˝ kaže Porobija, dodajući kako nitko donedavno nije mogao zamisliti da će se pojaviti toliko napredan sustav kao što je ChatGPT.
O učincima i rizicima AI raspravljat će se još dugi niz godina
Bez obzira na teškoće, umjetna inteligencija donijela je mnogo pozitivnih promjena, ističu sugovornici.
Osim funkcija koje nismo mogli ni zamisliti prije, AI je također poboljšala i učinila dostupnijim mnoge proizvode i usluge, kao što se, recimo, u odvjetničkim uredima AI danas koristi za bržu i učinkovitiju analizu pravnih dokumenata.
Martinić tvrdi kako bi se svjetske tehnološke tvrtke mogle u budućnosti prilagoditi europskim pravilima. Kada se pojavila Opća Uredba o zaštiti podataka (eng. General Data Protection Regulation – GDPR), mnoge tvrtke su tvrdile da će im nova regulativa uništiti poslovanje. No, tvrtke su preživjele te su mnoge druge zemlje na kraju prilagodile svoja zakonodavstva po uzoru na europsko. Isto bi se moglo desiti s novim standardima za AI.
˝Mislim da je upravo prednost Europe ta da AI sektor može procvasti ako postoji povjerenje građana u poduzetnike, da postoje pravila, da postoji vladavina prava, da se neće zloupotrebljavati njihovi osobni podaci˝, kaže Martinić. ˝Mislim da nije vrijedno žrtvovati prava i sigurnost na oltaru profita.˝
Ono što je sigurno jest da će se o učincima i rizicima AI raspravljati još dugi niz godina – uključujući o pitanju kada se umjetna inteligencija može smatrati samosvjesnim bićem.
Ovaj članak sufinanciran je sredstvima Fonda za poticanje pluralizma i raznovrsnosti elektroničkih medija.
