Jeste li tehno-optimist ili tehno-pesimist, radujete li se svakom novom čudu umjetne inteligencije ili vam se smrači?
Ukoliko spadate u optimistični tabor, zacijelo ste tijekom odlazeće 2022. godine više puta cupkali od uzbuđenja kada ste začas generirali neku likovnu digitalnu sliku uz pomoć alata umjetne inteligencije poput aplikacija DALL-E-2, Midjourney ili Stable Diffusion. Kao šlag na kraju godine oduševljavaju pak ChatGPT ili Character.ai, posljednja dostignuća koja se dopisuju s nama, pišu tekstove, eseje i pjesme, odgovaraju na svakojaka pitanja, generiraju računalne kodove, prevode, nikad ne spavaju i uvijek su na raspolaganju kada zatreba online sugovornik.
U ne jako dalekoj budućnosti umjetna će inteligencija, optimisti najavljuju, biti u stanju detaljno analizirati zdravlje pojedinca, predviđati bolesti te proizvesti individualizirani lijek s vrlo preciznim učinkom, napravljen tako da odgovara isključivo genetici i stanicama pacijenta.
I umrle će vratiti u digitalni život jer će na bazi raspoloživih podataka iz života pokojnog – fotografija, tekstova, videa, glasovnih zapisa – stvoriti računalni deepfake karakter te ćemo, kada poželimo popričati s djedom, prijateljem ili sestrom koji odavno više nisu s nama, uključiti aplikaciju i začuti njihov poznat glas i vidjeti kako se smiju, gestikuliraju ili svađaju upravo onako kakvima ih se sjećamo. Svi ćemo tako imati prilike postati digitalno besmrtni jer, primjerice, po društvenim mrežama ostavljamo puno podataka uz pomoć kojih umjetna inteligencija brzo može proanalizirati naše mane i vrline te stvoriti kopiju osobe u virtualnom okruženju.
Klasa bespotrebnih
Umjetna inteligencija (uobičajeno skraćeno nazivana AI od engleskog Artificial Intelligence) je beskrajno tehnološko područje koje može učiniti ljudski život ugodnijim, zabavnijim i produktivnijim, no isto tako prijeti u potpunosti razoriti svaki demokratski društveni poredak, bilo koju zajednicu, strpati nas u digitalnu diktaturu te možda u konačnici poraziti i uništiti čovječanstvo kakvo poznajemo.
U europskim demokracijama polažemo veliki značaj na ljudska prava, na dignitet svakog pojedinca, pravnu državu, slobode, socijalnu zaštitu, solidarnost, pravo glasanja i udruživanja, ali umjetna inteligencija želi nešto drugo, odnosno, kako smatra povjesničar Yuval Noah Harari, više naginje totalitarnom društvu u kojemu će ljude učiniti irelevantnima, besposlenima, zanemarenima, jednom rječju – suvišnima. U tijeku je stvaranje bespotrebne klase, mase onih koji nikome i ničemu nisu potrebni jer roboti, automatizacija i tehnologija mogu obaviti sve poslove umjesto njih, tvrdi Harari koji upravo u tome vidi razlog zašto su toliki glasali za Donalda Trumpa 2016. godine. Povjerovali su, naime, da bi im on mogao vratiti dignitet, radna mjesta i ponos.
Nasuprot bespotrebnoj klasi su imućni pojedinci, financijska elita, ulagači, kapitalisti, poduzetnici, oni koji isključivo promišljaju kako povećati dobit i produktivnost, uspoređujući jesu li im jeftiniji roboti ili ljudska radna snaga, je li im jeftinije proizvoditi u Varaždinu ili negdje u Kini.
Upravo tada demokracija postaje vrlo važna jer je gotovo jedini način kako se mirnim putem, dakle kroz demokratske izbore, ali i javnim pritiskom na izabrane političare, može dogovarati pravednija raspodjela te spriječiti brzo osiromašivanje većine građana.
Što ću biti kad odrastem
Običan ljudski život je naime već sada u neskladu s ritmom ubrzanog tehnološkog napretka jer, kako objašnjava filozof Nick Bostrom u knjizi Superinteligencija, za razvoj jednog radno sposobnog čovjeka potrebno je od rođenja između 15 i 30 godina, ovisno o stručnosti koja će biti postignuta. Cijelo to vrijeme osoba treba biti hranjena, zbrinuta i školovana, a to prilično košta i na kraju daje upitne rezultate jer radnika ima i dobrih i loših, zdravih i boležljivih.
S druge strane, proizvesti digitalnog umjetnog radnika ili robota koji može obavljati neki posao 24 sata svaki dan, nije problem nakon što se savlada tehnologija, čemu već godinama svjedočimo u halama u kojima se proizvode automobili.
Današnji roditelji rijetko djeci predlažu školovanje za radnika na proizvodnoj traci i radije ih upućuju na učenje programiranja na računalu jer su u IT sektoru dobre plaće, no umjetna inteligencija već i tu zadaje glavobolje. AI aplikacije poput ChatGPT i DeepCoder, naime, pokazuju da znadu programirati te da će zapravo trebati sve manje programera, a smanjit će se potreba i za učiteljima u školama, novinarima i brojnim drugim zanimanjima.
No, ne treba očajavati jer u optimističnoj varijanti je dovoljno dogovoriti da svi građani dobivaju zajamčeni temeljni osobni dohodak za koji novca uopće ne bi trebalo nedostajati. Umjetna inteligencija, naime, mogla bi vrlo brzo umnogostručiti bruto društveni proizvod, s obzirom da pruža mogućnost za neograničeni broj AI strojeva koji mogu stvarati jedni druge te, primjerice, bez ljudske intervencije sami isprogramirati i proizvesti robote koji će brzo pobrati sve mandarine u neretvanskoj dolini. Za uspostavu takvog društva u kojemu je postignut širok dogovor o raspodjeli ukupnog dohotka te za novi način života bez stalnih zaposlenja, bilo bi zapravo potrebno promijeniti kapitalizam, kao i zauzdati sve one koji imaju loše namjere, a to je možda neostvarivo bez jake intervencije u demokraciju kakvu sada poznajemo.
S rukom za ruku su čet’ri stađuna
Raspoloživa rješenja su, prema spomenutom profesoru Bostromu, četiri scenarija koji su jedan za drugim udaljavanje od slobodne demokratske volje građana – prvi je odluka da se zaustavi ili barem uspori tehnološki napredak dok čovječanstvo na neki način ne predahne i uhvati korak.
Takvo što više nije moguće jer se kotač tehnološkog napretka već prilično brzo vrti, stoga pokušajmo s drugom varijantom – a ta je ograničenje broja zlonamjernih i sebičnih koji se jedino i isključivo žele okoristiti situacijom. U tom stupnju se na neki način već nalazimo jer primjeri djelovanja su, prema Bostromu, zaustavljanje širenja opasnih dezinformacija i jači nadzor kako bi se obeshrabrili oni koji planiraju podrivanja i opakosti.
Ni to neće uroditi plodom jer je po svijetu previše loših igrača te je treća opcija, nastavlja pesimistični Bostrom, stalni vrlo djelotvoran preventivni nadzor, zapravo tehnološka policijska država, a tu smo već na terenu koji se prilično udaljava od demokratskih standarda.
I konačno, četvrti je prijedlog uvođenje puno strožih pravila za cijeli svijet, proglašenje globalne vlade koja bi svaku državu koja ne sluša odmah proglasila delikventom u međunarodnom poretku, koja bi, primjerice, u slučaju nove pandemije postavila pravila kojih se svi moraju držati bez iznimke. U svim nabrojanim prijedlozima za suživot s umjetnom inteligencijom jedino bi, veli Bostrom, scenariji tri i četiri u zajedničkoj kombinaciji, dakle policijska država nadzora u suradnji s globalnom vladom, mogli, i to možda, zaustaviti umjetnu inteligenciju da ne uništi ljudsku civilizaciju.
Globalist sam čak i ako se veselim Lovrenovom golu
Za globalno rješenje zalaže se i Harari koji kaže da je svatko tko voli Svjetsko nogometno prvenstvo zapravo globalist.
“Svjetsko prvenstvo je prikaz globalne harmonije, Francuska ne može igrati nogomet protiv Hrvatske ako se Francuzi i Hrvati ne dogovore o istim pravilima igre, a to je globalizam na djelu,” objasnio je Harari na sastanku Svjetskog ekonomskog foruma u Davosu 2020. godine i predložio da u dvadesetprvom stoljeću nacionalisti također postanu i globalisti, kako bi se tehnologija mogla regulirati podjednako na cijelom planetu.
Gotovo svi naime već prepuštamo globalnim algoritmima umjetne inteligencije da odlučuju što čitati na Facebooku, gledati na Netflixu ili kupovati na Amazonu pa čak i u koga se zaljubiti na nekoj aplikaciji za upoznavanje. Već sada ne razumijemo kako računala odlučuju, a u budućnosti ćemo to biti u stanju još manje, ne samo mi kao obični birači već i političari ili voditelji državnih institucija. Koliko je znanje o tehnologiji slabo pokazuje i banalan primjer američkog senatora koji je direktora Facebooka Marka Zuckerberga upitao kako to da je Facebook besplatan za korisnike, na što je pomalo zbunjeni Zuckerberg odgovorio – “Senatore, mi objavljujemo oglase.” Ako jedan američki senator ne zna kako Facebook zapravo zarađuje, kako onda možemo očekivati od ostalih političara dovoljno znanja o algoritmima umjetne inteligencije i potrebi da se ta tehnologija na neki način regulira? Kako uopće onima od kojih očekujemo da donose odluke objasniti u čemu je problem?
Mozak spor kao kornjača
Ovdje nam opet može pomoći oxfordski profesor Bostrom koji s nekoliko podataka pokušava uvjeriti koliko smo zapravo mi ljudi slabi – naš biološki neuron radi brzinom od otprilike 200 Hertza, dakle reagira 200 puta u sekundi, dočim se učinak računalnog tranzistora mjeri u milijardama Hertza. Prosječna osoba na vizualnu stimulaciju reagira u četvrtini sekunde, na zvuk u petini sekunde, a na dodir u otprilike jednoj sedmini sekunde. Neuroni u mozgu komuniciraju signale brzinom od možda stotinu metara u sekundi, dok u računalu isti mogu dostizati brzinu svjetlosti. Naš je mozak ograničen veličinom lubanje, a računalo može biti biti zgrada pa i cijeli grad. Iako vam se možda čini da ovime uspoređujemo kruške i jabuke, brojna su predviđanja da pametne strojeve, upravo zbog naših bioloških ljudskih ograničenja, u nekom trenutku u u idućim desetljećima više neće biti moguće kontrolirati jer imaju veće mogućnosti za daljnji razvoj i učenje dok smo mi zapravo isti tisućama godina.
Do kraja stoljeća ljudi su gotovi, ali čovječanstvo i inteligencija će ići dalje, prognozira autorica knjige Budući superčovjek Elise Bohan koja smatra da uopće ne treba zakonski regulirati tehnologiju. U ovom, kako ga naziva, transhumanističkom razdoblju, Bohan bi, umjesto političarima, radije vjerovala nekom doktoru znanosti koji razumije kako tehnologija funkcionira, ili čak samo računalu jer ono neće, objašnjava ova istraživačica s oxfordskog sveučilišta, biti pristrano kao što ljudi uglavnom jesu. Kao uvjerena transhumanistica, Bohan se zalaže da se ljudi usavrše uz pomoć tehnologije, spoje s njom i tako postanu zapravo još moćniji, dakle da se mozak na neki način programira uz pomoć umjetne inteligencije.
AI presudan u Ukrajini
I vladari intenzivno razmišljaju o opcijama kako programirati ljudsko tijelo ne bi li tako, među ostalim, uznapredovali ispred svih ostalih i pojačali ekonomiju. U izvršnoj naredbi predsjednika SAD-a Joea Bidena iz rujna ove godine naime stoji da se trebaju “razviti tehnologije i tehnike genetskog inženjeringa, kako bi se mogli napisati sklopovi za stanice i programirati biologiju na isti način na koji pišemo softver i programiramo računala.” Pri stvaranju te nove američke bioekonomije potrebno je, kaže Bidenova naredba, zaštititi tehnologiju kako je ne bi ukrale protivničke države i konkurenti te tako ugrozile nacionalnu sigurnost.
Umjetna inteligencija, nacionalna sigurnost, biotehnologija, obavještajne službe i srodna područja isprepliću se i u istupima bivšeg glavnog direktora Googlea Erica Schmidta koji surađuje s američkim političarima i vojskom i koji se, veli, nada da će demokratska pravila uspjeti održati kontrolu nad tehnologijom. Schmidt vidi Kinu kao glavnog američkog suparnika u razvoju umjetne inteligencije, a Europsku uniju kao sporu birokraciju u kojoj se odluke donose dugo i na komplicirani način. Problem je što EU pokušava regulirati umjetnu inteligenciju, no pritom nema rast u tom području, tvrdi Schmidt, ukazujući nam tako da između Europe i SAD-a, kao glavnih stupova demokracije u svijetu, postoje razmimoilaženja po pitanju kontrole tehnologije.
Schmidt je inače nedavno posjetio i Ukrajinu gdje je razmatrao kako se vrhunska tehnologija koristi u ratnom sukobu u kojem algoritmi umjetne inteligencije igraju ogromnu, možda i presudnu ulogu.
Stotine američkih satelita, naime, precizno snimaju teren i umjetna inteligencija brzo pronalazi ruske položaje, što pomaže ukrajinskoj vojsci u ostvarenju brojnih uspjeha, no u svemu premoćno sudjeluju moćne privatne kompanije iz Silicijske doline koje, piše Washington Post, možda jednog dana u nekom sukobu izaberu neku drugu stranu iz vlastitih interesa. Ono što se događa u Ukrajini, obrazlaže kolumnist tog lista, smatra se “dobrim” ratom u kojem je jasno na čijoj su strani zapadne države, no što će biti u nekom “lošem” ratu, za koga će tada raditi tehnološke kompanije? S obzirom na to da u svim tim područjima zapravo ne postoje regulacije, države i njihova sigurnost mogu spasti na milost i nemilost privatnih tvrtki koje kontroliraju znanje o umjetnoj inteligenciji.
Kilo mozga – nula
Tvrtka o kojoj se ovih dana jako puno govori je Open AI, istraživački neprofitni laboratorij koji stoji iza ChatGPT projekta i čiji direktor Sam Altman smatra da će u državama najbitnije, ali i najteže, biti odlučiti kakav ćemo društveni dogovor postići, kakav oblik vlasti i uređenja izabrati te kako pravedno dijeliti prihode koje ostvaruje umjetna inteligencija. Altman ambiciozno najavljuje da će troškovi inteligencije i energije rapidno padati vrlo blizu nuli što znači da bi sve zapravo moglo biti vrlo jeftino. Sposobni Altman iz Silicijske doline potvrdio nam je tako na neki način ono što je još 1995. predvidio HDZ-ov zastupnik Ivan Milas kada je u Saboru izrekao onu čuvenu “Mozak vani ništa ne vrijedi! Kilo mozga je dvije marke.” Čuvar državnog pečata Milas tada, doduše, nije razmišljao o umjetnoj inteligenciji, već je izricao anti-intelektualističke stavove, ali njegova izjava s kojom se sprdamo desetljećima na kraju će, tragikomično, možda ispasti sasvim točna.
Altman iz Open AI dakle optimistično najavljuje svijet u kojemu će se ljudi moći baviti s čim god žele jer će imati zajamčen temeljni dohodak dostatan za životne potrebe, društvo izobilja u kojemu se neće morati štedjeti u zdravstvenom sustavu jer će umjetna inteligencija jeftino i brzo pomagati liječnicima te neslućeni napredak i olakšanje ljudskog života u gotovo svim područjima. Za to je samo potrebno postići veliki društveni demokratski dogovor.
Petarde i bombe u rukama
Pesimističniju varijantu budućnosti, međutim, nudi u ovom tekstu često navođeni Nick Bostrom koji smatra da se mi ljudi ponašamo kao mala djeca koja se igraju s bombom. Superinteligencija je izazov s kojim se sada još nismo u stanju uhvatiti u koštac, a to nećemo biti još dugo vremena, veli Bostrom i pojašnjava da bi dijete koje u ruci ima bombu trebalo oprezno odložiti opasni predmet i pozvati nekog odraslog. Situacija koju imamo je takva da je jako puno djece koja se igraju s bombama te će detonaciju biti nemoguće izbjeći zato što će barem jedan klinac povući osigurač da vidi što će se dogoditi. Odraslih, veli pesimistični Bostrom, zapravo nema nigdje na vidiku.
No, da ne bismo završili s tako mračnim mislima u ovim prazničnim danima, pogledajmo kakve smo rezultate ostvarili u razgovoru s umjetnom inteligencijom i jesu li očekivanja bila opravdana.
Za početak upitali smo ChatGPT da nam objasni odnos između demokracije i tehnologije, na engleskom. Rezultat je, usuđujemo se reći, bio impresivan:
Odgovor na naše prvo pitanje na hrvatskom ticao se računalnog jezičnog modela koji ChatGPT koristi:
Tijekom odgovaranja na sljedeće pitanje ChatGPT je zapeo i prestao pisati. S obzirom da je aplikacija još uvijek u testnoj fazi, takve greške se događaju relativno često:
I na sljedećem pitanju umjetno inteligentno računalo se smotalo:
Na škakljiva politička pitanja ChatGPT znade diplomatski odmjereno odgovoriti:
S odgovorima na sljedeća dva pitanja moguće je da se neki u Hrvatskoj neće u potpunosti složiti:
Brojni svjetski mediji popratili su sa zanimanjem dostignuća ChatGPT projekta, a britanski je televizijski kanal Channel 4 priredio razgovor s umjetnom inteligencijom u studiju koji možete pogledati ovdje:
Ostali nastavci serijala “Tehnologija i demokracija”:
Od pluga i motike do Facebooka i robotike (1)
Utjecaj tehnodivova na izbore (2)
Zlatno doba špijuniranja i nadziranja (3).
Kruh naš svagdašnji dorađen genomski (4)
Ovaj tekst je dio serijala “Tehnologija i demokracija” u kojem analiziramo utjecaj brzih tehnoloških promjena na demokratska društva. Tekst je objavljen u okviru programa poticanja novinarske izvrsnosti Agencije za elektroničke medije.
