Kako korištenje alata umjetne inteligencije ulazi u mainstream, uz oduševljenje njenom širokom primjenjivošću i funkcionalnošću, sve se više strahuje kamo nas ono može odvesti. Prisutna je i, naravno i razumljivo, svojevrsna ludistička bojazan o izumiranju određenih profesija, snižavanju cijene rada i gubitku radnih mjesta.
U kulturnom sektoru sve je to na stolu, uz dodatnu svijest da će se promijeniti ili potkopati narav umjetnosti, autorstva i autorskog/umjetničkog djela. Gomila kulturnih radnika i njihovih cehova – od umjetnika i autora, preko prevoditelja pa do glumaca – već progovara o tim problemima.
“Strojevi nisu, i nikad neće biti, prevoditelji; oni tek generiraju tekstualni sadržaj, pri tome osiromašujući jezik i kulturu. Stoga duboko vjerujemo u to da svaki jezik i svaka knjiga zaslužuju prevoditelja”, govorila je književna prevoditeljica Ela Varošanec Krsnik, na prošlogodišnjem panelu Europske konferencije o književnom prevođenju.
Ona je članica upravnog odbora Društva hrvatskih književnih prevodilaca (DHKP) i njihova predstavnica u Europskom savezu književnoprevodilačkih udruga (CEATL). Te je stavove ponovila i u razgovoru s nama.
“Meni je teško izreći da je nešto prevela umjetna inteligencija, jer mislim da ono što umjetna inteligencija radi nije prevođenje. To je stav CEATL-a, zapravo to je stav i DHKP-a. Možemo radije govoriti o generiranim verzijama teksta”, rekla je na početku razgovora.
Stručnjaci s kojima smo razgovarali upozorili su nas na moguće negativne učinke primjene umjetne inteligencije (AI) u kulturi i kreativnim industrijama, kako na same stvaratelje, tako i na “proizvode”, ali i na njihove “konzumente”. Istovremeno, dobili smo i odgovore na koje načine i u kojim situacijama AI može biti primjenjiv.
Umjetnost kao nešto jedinstveno ljudsko?
Početkom godine Društvo hrvatskih književnika (DHK) donijelo je Deklaraciju o umjetnoj inteligenciji. Njih smo upitali da nam pojasne stavove iznesene u Deklaraciji, a u ime organizacije odgovorio je Matija Štahan, tajnik DHK. Kaže nam kako Deklaracija “progovara o tri ključna spleta problema koje umjetna inteligencija unosi u književnost, a tiču se autorskih prava, socijalne sigurnosti autora i same naravi književnosti”.
Prema njima, književnost “nije ništa doli jezik koji se igra sam sa sobom; sve što jezik može biti a da nema isključivo pragmatičnu svrhu, to je književnost. I baš kao što književnost bez svojega umjetnog aspekta, to jest samoga jezika ne može postojati, tako je književnost koja nastaje bez prirodnog aspekta – ljudskoga uma i duha – samo privid književnosti ili svojevrsna ‘postknjiževnost'”.
Kod književnog prevođenja postoji slično polazište koje se podcrtava kad se govori o miješanju umjetne inteligencije u njegov rad jer taj proces podrazumijeva ljudsku kreativnost, snalažljivost, poznavanje konteksta djela i prepoznavanje igre riječima.
Naime, kako nam je objasnila prevoditeljica Varošanec Krsnik, izbor riječi i fraza u književnom prevođenju plod su promišljanja različitih opcija “u dubinskom, kulturnom i socijalnom tekstu”, a to je nešto što umjetna inteligencija ne radi. Ona pojednostavljuje, a njen tekst ovisi o statističkoj uporabi riječi.
Kaže nam i kako AI prevoditelji, upravo zbog te statističke uporabe riječi, mogu potpuno krivo prenijeti sadržaj. Nedavno joj je jedan kolega izvana pričao o slučaju gdje je lik u knjizi od 400 stranica bio preveden i predstavljen kao muškarac, da bi se u posljednjih 50 stranica saznalo da je trudan.
Naš poznati književnik Želimir Periš, koji se “upoznavao s umjetnom inteligencijom pristupajući joj iz književne perspektive” (1, 2) kaže kako je najveća prijetnja korištenja umjetne inteligencije to “da će nam djela koja je napisao robot servirati pod djela koja nije napisao robot” te da, s obzirom na to kako ti alati rade (koristeći dosadašnja znanja i informacije), ona ne može donijeti nešto novo.
“Ne zanima me što robot ima reći u umjetničkom smislu. Ja već sad imam averziju prema umjetničkim djelima, romanima, filmovima, koji ne izađu iz okvira očekivanja, stilom ili idejom. Nemam volje ni vremena za stvari koje nisu obogatile moju spoznaju. AI je danas rezultat sinteze svog postojećeg znanja i umjetnosti, u generativnom smislu ne može proizvesti ništa novo, tj. ništa novo što bi moglo biti bitno.
Da, AI može napisati novi roman Agathe Christie, ali ja ga zbilja ne želim čitati. Imam golemi osjećaj odbojnosti prema AI generiranom sadržaju i vremenu koje gubim čitajući ga. Nisam u stanju niti dvije sekunde provesti da pročitam koju je smiješnu stvar AI odgovorio nekom prijatelju”, objašnjava nam Periš.
Mišljenja i osjećaji oko interakcije mašte i mašine još uvijek su podijeljena, i sve su zamršenija. Kako je pisao BBC u jednom od svojih tekstova iz serije “AI protiv uma“, razvoj “istinski umjetničkih alata” izazov je uvriježenom uvjerenju o tome što nas čini ljudima, a upravo na umjetnost se dugo gledalo kao na nešto jedinstveno ljudsko. Ipak, autorica ostavlja prostor i za promišljanje o redefiniranju kreativnosti u digitalnom dobu i mogućnosti integracije AI-a u umjetnost.
Postoje i mišljenja (1, 2) prema kojoj se uz dobre, detaljne i promišljene promptove (upute ili naredbe AI alatu) može stvarati umjetničko djelo, jer, u konačnici, ideja polazi iz ljudskog uma, a AI ju sluša i realizira. Toga se kasnije dotaknuo i Periš.
AI kao ispomoć
Uz sve što je ranije kazao, Periš napominje da to ne znači da on osobno ne voli alate umjetne inteligencije: “AI je odličan alat za pomoć pri razmišljanju i puno ga koristim. Imamo vrlo poslovan odnos: Dragi AI, imam problem, predloži mi rješenje. A on kaže: ‘Naravno, Želimire, evo nekoliko razloga koje možeš koristiti za izgovor samom sebi zašto još nisi počeo pisati novi roman'”, dodaje naš sugovornik.
Pitamo ga može li AI postati alat koji pomaže umjetnicima, piscima, ilustratorima, prevoditeljima – umjesto da ih zamijeni.
“Da, da, da i da. AI jest alat koji može pomoći umjetnicima danas, no ne mogu govoriti o budućnosti. AI se razvija vrlo brzo i dopuštam da je moguće da sve što se dogodi sutra promijeni stvari, a moji stavovi ostanu zastarjeli. To je sigurna stvar, zato ne bih predviđao što će biti za mjesec dana, a još manje za godinu dana.
Danas je AI odličan lektor, vrlo dobar prevoditelj, osrednji urednik, vrlo ograničen ilustrator i loš pisac. No, sve su to vrlo iskoristive sposobnosti. Ako su prevoditeljima dosad trebali mjeseci za prevesti roman, uz AI će im za to trebati dani. Međutim, AI ne smije zamijeniti ijednu od tih rola, to bi bila katastrofa, ali im može pomoći, olakšati, ubrzati i podignuti kvalitetu njihovog rada”, odgovara.
Dok u svijetu postoje već slučajevi “pisaca” koji su objavili preko sto knjiga uz pomoć alata umjetne inteligencije, Štahan nam kaže kako su u Hrvatskoj javno poznati samo pojedini primjeri “poigravanja s umjetnom inteligencijom”.
“Umjetna inteligencija može biti korisna u radu koji prethodi umjetničkom stvaranju, ali problematično je kada ona ‘odrađuje’ kreativni dio stvaralačkoga posla – uz iznimku zgodnih eksperimenata koji se hotimice poigravaju s uporabom umjetne inteligencije, ali koji se – kao i svaki eksperimentalizam – brzo i lako iscrpe”, kaže Štahan.
Književna prevoditeljica Varošanec Krsnik kaže kako se prevoditelji koriste nekim AI alatima, ali da većina, i ona osobno, odbijaju prepustiti sav posao AI-u, odnosno unijeti cijeli tekst u digitalni alat.
“Ja konkretno se služim time, ali nikada tako da stavim tekst cijeli unutra jer me to uopće ne zanima. Ali na primjer, tražim da mi određenu riječ prevede, tj. da mi ponudi 15 hrvatskih oblika za određenu riječ na španjolskom, ili kolokacija, ili nazive bilja, životinja i slično. Jako često ne dobijem konkretan ili zadovoljavajući odgovor. Ali mi služi kao polazišna točka i zgodan alat. Ali kažem: alat, a ne prijevodno sredstvo”, napominje.
“Generiraj mi roman u stilu Agathe Christie”
Štahan dodaje da umjetna inteligencija također može biti korisnom “u onim djelima koja već sada nastaju kao da ih piše umjetna inteligencija, odnosno u žanrovskim oblicima koje se kreira po šabloni koja ne donosi ništa novo, a predstavljaju svojevrsne umanjenice književnosti što završavaju na -ić: krimićima, ljubićima, pornićima”. “Mogla bi dobro doći i u stvarnosnoj prozi”, dodaje.
Drugi naši sugovornici nisu tog stava, odnosno ne rade vrijednosnu razliku među žanrovima.
Kada govori o lošoj kvaliteti strojno prevedenih književnih dijela, Varošanec Krsnik objašnjava da tome ne treba pristupiti na način “koga briga za ljubiće, krimiće, dječju književnost, književnost za mlade, to je ionako lako prevesti”.
“Meni se to čini užasno opasno, pogotovo ako govorimo u kontekstu književnosti za mlade i djecu, jer je to književnost na kojoj djeca, s jedne strane uče jezik, što je jako bitno, a s druge strane, se odgajaju. Književni prevoditelj nikad ne pretipkava samo tekst s jednog jezika na drugi. To je i prenošenje slika i emocija, dakle, vrlo ljudska aktivnost.
A kada govorimo o ljubićima, krimićima i sličnoj, pod navodnicima bezvrijednoj književnosti, mislim da je to isto tako opasno [prevođenje uz pomoć AI-ja] jer je to ono što se najviše čita. I strašna mi je pomisao da ono što se najviše čita, ono na čemu ljudi vježbaju mozak, i uče jezik na kraju krajeva, da je to isto tako okljaštreno”, kaže nam.
Periš također odbija stav da je AI u redu koristiti za književnost “niže umjetničke vrijednosti”:
“Katastrofa. Fakat se ne mogu zamisliti da itko odlazi u knjižaru ili knjižnicu po novi AI-generiran roman u stilu Agathe Christie, kad mogu doma s kauča samo reći ‘AI, molim te generiraj mi roman u stilu Agathe Christie’. Sutra ćemo moći reći: ‘AI, generiraj mi novu epizodu Dr. Housea, a zaplet neka se vrti oko mentalnog umora i anksioznosti uzrokovanih pretjeranim korištenjem AI tehnologije’. U domeni kreativnog stvaranja pomoću AI-ja treba jednu stvar razumjeti: nije djelo ono što je AI odgovorio, već je kreativno djelo ono što ste AI-ju zadali. Taj prompt, on je umjetnost”.
AI ugrožava cijenu rada, a ponekad zadaje i više posla
Štahan nam kaže kako AI može ugroziti socijalnu sigurnost svih aktera povezanih s književnim djelovanjem: “od onih za čija prava, premda nisu književnici u užem smislu riječi, skrbi i Društvo hrvatskih književnika, kao što su prevoditelji i ilustratori – pa onda i šire, primjerice novinara – koje umjetna inteligencija svojom brzinom i stvarnom ili prividnom ‘besplatnošću’ može istisnuti sa scene”.
Prevoditelji koje je spomenuo već neko vrijeme žive u prekarnim uvjetima rada i to je zajednički moment svim sferama prevođenja. Umjetna inteligencija tu nesigurnost – zbog brzine koja je izuzetno tražena u ovom poslu – još dodatno produbljuje. Mnogi prevoditelji već dobivaju upite za tzv. post-edit, odnosno uređivanje prijevoda koje je generirala umjetna inteligencija. “Naravno, za puno manje novca”, dodaje Varošanec Krsnik.
Spomenula je primjer kolegice iz Njemačke koja je dobila ponudu jedne izdavačke kuće da napravi post-edit jedne književne uspješnice za 5 eura po kartici teksta, dok je u toj zemlji tada bio standard po kartici oko 18 eura. Pored toga nije joj ponuđeno da je se navede kao prevoditeljicu, što znači da neće imati pripadajuća autorska prava. Ponudu je odbila i o njoj javno progovorila.
Varošanec Krsnik objašnjava da se u slučaju post-edita zapravo radi na tri teksta: original, strojno preveden tekst i finalan rezultat. Prevoditelji, dakle, trebaju gledati original i tuđi “prijevod” te “ponovno prevoditi” služeći se tuđim “prijevodom”. Problem s alatima umjetne inteligencije je i taj da mogu biti “silno uvjerljivi” i da utječu na njihov sud o izboru riječi ili fraza, zbunjuju ih jer imaju osjećaj kao da ne poznaju vlastiti jezik, a javlja se i osjećaj premorenosti.
U novinarstvu može biti, donekle, slično. Ako novinar potraži odgovore preko ChatGPT-a, svakako mora proći još nekoliko krugova provjere jer taj alat, ukoliko nije dobro istreniran, ne razlikuje pouzdane i nepouzdane informacije, a često i ne otkriva odakle mu izvor za njih.
Zgodan primjer dodatnog rada koji zadaje AI u kulturnoj proizvodnji pronašao je i portal 404 Media, na primjeru rada knjižničara u američkim javnim knjižicama. Naime, kako je tamošnje tržište već preplavljeno e-knjigama koje su nastale uz pomoć AI-ja (a nisu jasno kategorizirane kao takve), knjižničari sami moraju naći način da filtriraju takvo štivo.
Rad umjetnika i kulturnih radnika “hrani” AI
Alati umjetne inteligencije moraju se uvježbati na ogromnoj količini podataka kako bi generirali svoje odgovore. Glavni izvor ovih informacija je na internetskim stranicama s otvorenim pristupom, što uključuje digitalne enciklopedije, medijske izvještaje, forume, ali i digitalne arhive knjiga. To znači da bi svaki oblik rada koji je digitaliziran, uključujući i književno djelo, mogao biti iskorišten za neku drugu namjenu, a bez ikakve naknade. To potkopava dosadašnja pravila o autorskim pravima.
“Umjetna inteligencija ugrožava autorska prava budući da se temelji na kopiranju i kompiliranju postojećih izvora, ne samo kada je riječ o informacijama koje donosi, nego i kada ‘proizvodi’ književnost. Iako književnost često jest citatna, pri služenju umjetnom inteligencijom za stvaranje književnoga djela lako može doći i do nesvjesnog preuzimanja plodova tuđega rada, ali bez autorske, stvaralačke svijesti o nadovezivanju i umjetničkoj nadogradnji”, navodi Štahan.
Varošanec Krsnik nam kaže kako su književna djela vrlo pogodna za treniranje AI-alata jer se radi o širokom spektru stilova, načina govora i jer su to “golemi komadi teksta” koje velike tehnološke kompanije mogu zloupotrijebiti. “Prema ovom što se događa, mislim da se trenutno događa najveća krađa autorskih prava od Bernske konvencije, od kada su ona uopće utvrđena kao takva”, kazala je.
I umjetnici toga postaju svjesni. Tisuće pisaca 2023. godine podržalo je otvoreno pismo Udruženja autora (najveće američke profesionalne organizacije pisaca) u kojem se velike kompanije poput OpenAI-a, Mete ili Microsofta pozivaju da dobiju dopuštenje prije nego što u svoje tehnologije ugrade djelo zaštićeno autorskim pravima.
“Milijuni knjiga, članaka, eseja i poezije zaštićenih autorskim pravom pružaju ‘hranu’ za AI sustave, beskrajne obroke za koje nije bilo računa. Trošite milijarde dolara za razvoj AI tehnologije. Pošteno je da nam date naknadu za korištenje naših spisa, bez kojih bi umjetna inteligencija bila banalna i krajnje ograničena”, stoji u pismu.
I Zakon Europske unije o umjetnoj inteligenciji (AI) našao se na meti kritika jer postoji velika rupa koja se tiče autorskih prava, a koja potencijalno u veliki rizik stavlja pisce, glazbenike i druge kreativce.
Dakle, sve veća prisutnost AI-a u umjetnosti i kulturi donosi ozbiljne izazove: smanjenje vrijednosti rada, zloupotrebu autorskih prava i nepošteno korištenje postojećih djela.
Da zaokružimo sve što su nam sugovornici rekli: iako umjetna inteligencija može biti moćan alat u rukama umjetnika, ona ne može tek tako zamijeniti ljudsku kreativnost, intuiciju i emociju. Umjetnici koji je koriste i dalje ulažu veliki trud u doradu i prilagodbu njenih rezultata, što potvrđuje da AI nije zamjena, već pomoćno sredstvo.
Kako je Periš onomad napisao: “U mojoj viziji situacije, ovo je naprosto iduća stepenica u nizu sve sofisticiranijih alata koji su stvoreni za pomoć ljudima koji pišu. Počeli smo s ugljenom na stijeni, pa guščjim perom i mastilom, olovkom, kemijskom olovkom, pisaćom mašinkom, računalom i sada došli do AI-ja”.
U tom kontekstu, ključno je pronaći ravnotežu između tehnološkog napretka i zaštite kulturnih radnica i radnika. I ne samo ravnotežu, nego i zakočiti gramzivost velikih tehnoloških divova.
