Mašine sposobne samostalno pronaći, prepoznati, naciljati i ubiti čovjeka postoje već godinama. Ono što ne postoji jest regulacija. Generalni tajnik Ujedinjenih naroda zato je baš ovu godinu označio kao rok u kojemu se države članice UN-a moraju izjasniti protiv ubojitih autonomnih oružanih sustava (LAWS), da bi u lipnju iz Ukrajine stiglo prvo priznanje da su roboti ubojice konzumirali ljudske živote na stvarnom bojnom polju. Prema priznanju, autonomno ubojstvo dronovima dogodilo se prije dvije godine u Donjeckoj oblasti, konkretnije blizu Bahmuta i Časiv Jara.
“Isprobali smo ih”, kaže proizvođač dronova Aleksander Kokanovskij, koji je osigurao tehnologiju i razgovarao s New Scientistom na medijskom događaju čiji je domaćin bilo ukrajinsko veleposlanstvo. “To je test. Nikada to nismo implementirali [šire]”.
Test se održao prije dvije godine i uključivao je kvadrokopterske dronove koji su bili programirani da lete prema prvoj crti bojišnice, prijeđu između tri i pet kilometara za oko deset minuta, a zatim aktiviraju način rada, koji se zove ni manje ni više nego “Terminator”. U tom načinu rada model umjetne inteligencije traži i presreće mete.
“Mi ga samo lansiramo i znamo da će sve biti mrtvo – sve što se nađe tamo, na tom određenom području, bit će mrtvo”, kazao je Kokanovskij. “Nema nikakve veze s dronom, ne možete vidjeti video, ništa… Sve što vidi bit će ubijeno”.
Nakon testa, na područje su poslani dronovi s ljudskim pilotima. Među žrtvama su bili, kako kaže isti dužnosnik, “nekoliko vojnika i jedan kamion”. Premda ne postoji snimka napada autonomnih dronova, zaključeno je da su ih dronovi ubili.
Nije prvi izlazak autonomnih dronova na bojište
Tehnologija kadra da samostalno pronalazi i uništava mete postoji već neko vrijeme, a ljudi se do sada nisu pokazali suzdržljivim kada se radi o isprobavanju novog oružja, usprkos opetovanim apelima da se to ne radi. UN je još 2021. godine digao uzbunu jer su autonomni dronovi korišteni u Libiji. Tada nije bilo podataka o ljudskim žrtvama.
Gaza je laboratorij za isprobavanje raznorodnih alata za ubijanje namijenjenog za daljnju prodaju, pa tako i onog asistiranog umjetnom inteligencijom. Ne postoji priznanje izraelske vojske da su potpuno autonomni roboti ubijali ljude u Gazi. No, razina autonomije koje pružaju programi “Lavander” i “Gospel” za koje se već dulje vrijeme zna da biraju mete s obzirom na nalaze sofisticiranih senzora uparenih s podacima o ponašanju, geolokaciji i biometriji stanovnika Gaze, toliko je visoka da je pitanje može li se govoriti o tome da to nisu autonomna oružja.
“Apeli goleme većine država da se izradi pravno obvezujući instrument još uvijek nisu uslišani. Sada vidimo izravne posljedice neuspjeha u uspostavljanju novih međunarodnih pravila. Sada svjedočimo genocidu u Gazi pokretanom umjetnom inteligencijom”, navela je država Palestina u doprinosu raspravi o Rezoluciji Opće skupštine UN-a 78/241 o smrtonosnim autonomnim sustavima naoružanja. Opisali su domaće primjere djelovanja takvog oružja, koje su istražili izraelski mediji +972 i Local Call.
“Hasbora omogućuje vojsci vođenje ‘tvornice za masovne atentate'”
Prva istraga, objavljena 30. studenog 2023., otkrila je da je izraelska uporaba umjetne inteligencije bila ključna za provođenje masovnih ubojstava u Gazi. Ova se istraga temeljila na razgovorima sa sedam sadašnjih i bivših članova izraelske obavještajne zajednice, podacima i dokumentaciji iz Gaze te službenim izjavama glasnogovornika izraelske vojske i drugih izraelskih državnih institucija.
Prema istrazi, primarni razlog za veliki broj smrtnih slučajeva civila u Gazi leži u širokoj uporabi sustava zvanog “Hasbora” (“Gospel” ili “Evanđelje”), izgrađenog pomoću umjetne inteligencije za automatsko generiranje ciljeva brzinom koja daleko nadmašuje ono što je ranije bilo moguće.
“Jedan bivši obavještajac objasnio je da sustav Hasbora omogućuje vojsci vođenje ‘tvornice za masovne atentate’, u kojoj je ‘naglasak na kvantiteti, a ne na kvaliteti’. Bivši načelnik Glavnog stožera izraelske vojske Avi Kochavi izjavio je: ‘Vidite, u prošlosti je u Gazi bilo trenutaka kada bismo stvorili 50 ciljeva godišnje. A ovdje je stroj proizveo 100 ciljeva u jednom danu.’ Drugi izvor je rekao: ‘To je stvarno poput tvornice. Radimo brzo i nema vremena za dublje proučavanje cilja. Gleda se tako da nas se procjenjuje prema tome koliko ciljeva uspijemo generirati'”, citiraju u podnesku UN-u.
Where’s Daddy? — dizajn za masovno ubojstvo u domovima
Druga istraga, objavljena 3. travnja 2024., otkrila je da je izraelska vojska razvila program temeljen na UI-ju poznat kao “Lavender” (“Lavanda”) za generiranje ciljeva za atentate i njihovo stavljanje na popis za odstrel. Prema riječima šestorice izraelskih obavještajaca, Lavender je odigrao središnju ulogu u neviđenom bombardiranju Palestinaca u Gazi. Časnici su dobili upute da preporuke koje generira UI sustav Lavender tretiraju “kao da se radi o ljudskoj odluci”, bez obveze da temeljito provjeravaju zašto je stroj donio te izbore prije nego što ih jednostavno mehanički odobre (“udare pečat”).
“Osim toga, automatizirani sustav nazvan ‘Where’s Daddy?’ (‘Gdje je tata?’) korišten je posebno za praćenje ciljeva koje je generirao UI i za izvođenje bombardiranja u trenutku kada bi ušli u svoje domove. Rezultat toga je da su tisuće Palestinaca — većinom žene i djeca — zbrisane u izraelskim zračnim napadima. Izraelski obavještajac rekao je za +972 i Local Call: ‘IDF je bez oklijevanja bombardirao (ciljeve) u kućama, kao prvu opciju. Mnogo je lakše bombardirati obiteljsku kuću. Sustav je napravljen da ih traži u tim situacijama'”, navela je Palestina.
Palestina tvrdi da svi ovi sustavi koriste tek “nominalni ljudski unos” i da to ne predstavlja stvarnu intervenciju. Ljudski operater komunicira sa sustavom na čisto nominalan način, bez moralnog ili pravnog promišljanja o posljedicama uporabe sile.
“Ako jasno ne utvrdimo da takvi unosi ne predstavljaju intervenciju, svi ti sustavi ostali bi izvan okvira onoga što je autonomni sustav naoružanja i stoga bi izbjegli bilo kakav oblik zabrane ili regulacije”, upozorila je Palestina.
Šef UN-a i pape u isti rog
Bez obzira ima li ono human in ili on the loop, države članice UN-a razmatraju propise za autonomne sustave naoružanja još od 2014. godine, u okviru Konvencije o određenom klasičnom oružju (CCW). Potpisnice konvencije obvezuju se da neće koristiti oružja koja bi mogla kršiti humanitarno pravo tako što nanose prekomjerne ozljede ili imaju neselektivne učinke. Primjeri su mine, laseri sposobni oslijepiti čovjeka i municija obavijena plastikom ili staklom, a time nevidljiva zdravstvenom osoblju na rentgenskom snimanju.
Pakt za budućnost, usvojen u rujnu 2024. godine, uključio je i poziv da se izbjegne zlouporaba novih tehnologija koje se neprestano razvijaju i njihovo pretvaranje u oružje. Tehnologija je, naprotiv, svakim danom postajala sve jeftinija i jednostavnija za napraviti, usprkos apelima s najviših instanci.
“Strojevi koji imaju moć i slobodu odlučivanja da oduzimaju ljudske živote bez ljudske kontrole trebali bi biti zabranjeni međunarodnim pravom”, kazao je lani glavni tajnik UN-a Antonio Guterres, pozivajući države “da zabrane ova oružja, koja su politički neprihvatljiva i moralno odbojna”.
Autonomnom oružju na krilima AI-ja protivio se i papa Franjo, kao i nasljednik mu Lav XIV. Priznanje Ukrajinaca se događa samo nekoliko tjedana nakon objave prve enciklike pape Lava XIV., u kojoj poglavar Katoličke crkve apelira na zaustavljanje upotrebe umjetne inteligencije u naoružanju.
“Sveta Stolica nedavno je primijetila da sve veća lakoća kojom se autonomni sustavi naoružanja mogu rasporediti čini rat ‘izvedivijim’ i manje podložnim ljudskoj kontroli. To krši načelo da bi se oružana sila trebala koristiti samo kao krajnja mjera u slučajevima legitimne samoobrane”, piše papa u enciklici Magnifica Humanitas. Zbog zaštite ljudskog dostojanstva i svetosti života zatražio je okončanje utrke u razvoju takvog oružja.
“Ponekad se govori o ‘umjetnim moralnim akterima’, kao da su strojevi sposobni razlikovati ispravno od pogrešnog s većom dosljednošću od ljudskog bića. Ipak, moralna se prosudba ne može svesti na izračun, jer uključuje savjest, osobnu odgovornost i prepoznavanje drugoga kao osobe. Stoga nije dopustivo povjeravati smrtonosne ili na drugi način nepovratne odluke umjetnim sustavima. Nijedan algoritam ne može učiniti rat moralno prihvatljivim. UI ne uklanja inherentnu nehumanost sukoba; zapravo, može samo brže dovesti do sukoba i učiniti ga impersonalnijim, snižavajući prag za pribjegavanje nasilju, pretvarajući obranu u predviđanje prijetnje i time svodeći žrtve na podatke”, navodi se u enciklici.
Veliki ne žele dogovor
Države već niz godina nastoje usuglasiti pristup regulaciji LAWS-a, ali među njima i dalje postoje značajne razlike u stajalištima, kaže nam pravnica Petra Perišić, autorica više radova o regulaciji autonomnog oružja.
“Rasprave se pritom vode oko toga kojim bi se pristupom najučinkovitije osigurala zaštita civila i poštivanje međunarodnog prava. Dok neke države zagovaraju potpunu zabranu, druge smatraju da bi se isti cilj mogao postići strogim pravilima koja bi uređivala njihovu uporabu. Treba, naravno, reći da države imaju i svoje vlastite interese pa će tako one koje intenzivnije razvijaju i proizvode autonomno oružje nerijetko zagovarati fleksibilniji pristup njihovoj pravnoj regulaciji”, navela je.
Ovo zadnje posebno vrijedi za Rusiju, Kinu i SAD, premda ni druge velike sile ne propuštaju utrku. Sjedinjene Države još od 2017. godine primjenjuju Projekt Maven za biranje ciljeva obradom i objedinjavanjem podataka iz desetaka, pa i stotina različitih izvora. On zahtijeva minimalni input čovjeka. Već su dvije kompanije iz etičkih razloga prekinule suradnju s američkom vojskom na ovom projektu. Najprije je to odmah 2018. godine učinio Google zbog pritiska zaposlenika, a na njihovo mjesto uskočio je jezivi Palantir Petera Thiela i Alexa Karpa.
Ove godine iz Mavena je izašao i Anthropic, firma koja vjeruje da je njihov AI sustav Claude upotrijebljen u Venezueli prilikom otmice predsjednika Nicolasa Madura, dok su se Mavenom služili i u Iranu te je prema preliminarnoj istrazi povukao zastarjele obavještajne podatke o vojnim objektima i za metu odredio školu za djevojčice u Minabu. Ubrzo nakon toga, Anthropic je poručio da ne žele da se Claude koristi za masovni nadzor i potpuno autonomno oružje, jer su smatrali da AI još uvijek nije u stanju upravljati autonomnim oružjem bez dovođenja u opasnost civila i same vojske. Ministarstvo rata uzvratilo je lijepljenjem etikete inače rezervirane za neprijateljske, mahom inozemne organizacije – “rizik u opskrbnom lancu”, zbog čega ih je Anthropic tužio. U međuvremenu, milijarde dolara američkih poreznih obveznika slijevaju se u proizvodnju dronova i AI, kroz različite stavke. Među proizvođačima je i Anduril, još jedna tvrtka pogonjena novcem utemeljiteljâ PayPala, Petera Thiela i Elona Muska, prvog bilijunaša svijeta.
Kina navodno ne zaostaje s ulaganjima u AI naoružanje. Na vojnim mimohodima već se godinama hvali autonomnim oružjem, čitavim bespilotnim brigadama sastavljenim od dronova i tenkova. Među većim dostignućima je matična letjelica Jiu Tian, nosač dronova spremnih u bilo kojem trenutku postati roj i napasti koordinirano. Rojeve, dakako, može lansirati i s tla, za što je potreban jedan operater za čak 96 letjelica, kao i s mora, a proizvode i besposadne podmornice. Kina ima proizvodne mogućnosti s kakvim se SAD ne može mjeriti, a od ove godine imaju i najmoćniji superkompjuter, makar od onih koji se javno natječu za titulu. Google i X, primjerice, nisu na listi. Superračunala se, naravno, koriste za treniranje AI-ja. Dvije najmoćnije i najrazvijenije zemlje se po pitanju autonomnog oružja planiraju zaštititi tek garancijom o obostranom uništenju plus imaju dogovor da AI-ju neće prepustiti u kliješta nuklearni arsenal.
Rusija nema dogovor ni sa kime. Ukrajina joj je poligon za ispitivanje mogućnosti njihovih dronova, baš kao što Ukrajinci testiraju svoja oružja na Rusima. Odbijaju argument da autonomno oružje može kršiti međunarodno pravo teže od drugih vrsta naoružanja i da im treba poseban pravni okvir. Stava su da LAWS reguliraju isključivo proširenjem Konvencije o određenom klasičnom oružju (CCW).
Stav Hrvatske
“Hrvatska je stajališta da smo mi kao čovječanstvo etički dužni osigurati smislenu ljudsku kontrolu kada je riječ o uporabi smrtonosne sile. Neprihvatljivo je da temeljne moralne prosudbe o životu i smrti padnu u ruke automatiziranih tehničkih sustava, jer bi takav scenarij označio kraj čovječanstva kao takvog. Ne zaboravimo da, iako su se ljudi pokazali sposobnima činiti najgore stvari jedni drugima, posebice u ratnim vremenima, upravo nam naša urođena priroda omogućuje da se moralno i etički razvijamo na način na koji strojevi to nikada neće moći”, navela je naša delegacija 2015. godine.
U prosincu 2023. godine, Hrvatska je glasovala za Rezoluciju Opće skupštine UN-a 78/241 o smrtonosnim autonomnim sustavima naoružanja. Rezolucija 78/241 naglasila je “hitnu potrebu da se međunarodna zajednica pozabavi izazovima i zabrinutostima koje izazivaju autonomni sustavi naoružanja”. Naložila je glavnom tajniku UN-a da pripremi izvješće koje odražava stajališta država članica i promatrača o autonomnim sustavima naoružanja te načinima rješavanja povezanih izazova i zabrinutosti koje oni izazivaju s humanitarnog, pravnog, sigurnosnog, tehnološkog i etičkog stajališta, kao i o ulozi ljudi u uporabi sile.
Na 79. zasjedanju Prvog odbora Opće skupštine UN-a u listopadu 2024. godine, Hrvatska je bila su-sponzor i glasovala je za Nacrt rezolucije L.77 o smrtonosnim autonomnim sustavima naoružanja, koja naglašava “važnost uloge čovjeka u uporabi sile kako bi se osigurala odgovornost i kako bi države poštovale međunarodno pravo”. Također navodi “ponovljene pozive glavnog tajnika UN-a da se hitno zaključe pregovori o pravno obvezujućem instrumentu sa zabranama i propisima za autonomne sustave naoružanja, u skladu s pristupom na dvije razine”. Na Prvom odboru Opće skupštine UN-a u listopadu 2024. godine, Hrvatska je poručila vezano uz razvoj autonomnog oružja i uporabu umjetne inteligencije u vojne svrhe da “moramo prepoznati središnju važnost ljudske kontrole u razvoju i uporabi tih sustava”. Ponovila je potrebu stvaranja učinkovitog međunarodnog instrumenta temeljenog na međunarodnom humanitarnom pravu.
U prosincu 2025. godine, Hrvatska je glasovala za Rezoluciju Opće skupštine UN-a 80/57 o smrtonosnim autonomnim sustavima naoružanja, koji poziva ugovorne stranke CCW-a da “rade na dovršetku skupa elemenata za instrument koji se razvija u okviru mandata Skupine vladinih stručnjaka, s ciljem budućih pregovora”.
Ipak, organizacija Automated Decision Research, koja se specifično bavi praćenjem inicijativa zemalja svijeta da se autonomno oružje zabrani, kao i Human Rights Watch, smatraju da iz istupa naše diplomacije ne proizlazi da zagovaramo zakonski obvezujuću zabranu ovakvoga oružja. Upitali smo Vladu i ministarstvo diplomacije te misiju pri UN-u koja je naša pozicija.
“Republika Hrvatska podržava međunarodne napore za odgovorno uređenje uporabe smrtonosnih autonomnih oružanih sustava (LAWS), uključujući rasprave o mogućim zakonski obvezujućim mehanizmima u okviru UN-a. Hrvatska smatra da svaka regulacija mora biti utemeljena na poštivanju međunarodnog prava, osobito međunarodnog humanitarnog prava, uz uvažavanje etičkih aspekata. Ključno je da ljudska bića zadrže nadzor nad uporabom smrtonosnih autonomnih sustava i odgovornost za odluke o uporabi sile. Kao članica NATO-a i EU-a, Republika Hrvatska zagovara koordinirani pristup regulaciji novih tehnologija u području sigurnosti i obrane”, odgovorili su nam iz Ministarstva vanjskih poslova.
Odgovor MVP-a je na tragu općih stajališta koja se posljednjih godina iznose u međunarodnim raspravama o LAWS-u, piše nam pravnica Petra Perišić.
“Postoji opće slaganje država da uporaba takvih sustava mora biti u skladu s međunarodnim humanitarnim pravom te da je nužno zadržati ljudsku kontrolu pri njihovom korištenju. Međutim, upravo oko sadržaja tih pojmova postoje značajna neslaganja. Primjerice, države imaju različita shvaćanja o tome što točno znači ljudska kontrola, kao i u kojoj fazi razvoja i uporabe autonomnih sustava ona mora biti osigurana”, navodi ona.
Što mogu hrvatski dronovi?
I Hrvatska proizvodi dronove. Točnije, to radi osječka tvrtka Orqa FPV, koja je već došla do kapaciteta od četvrt milijuna malih dronova godišnje. Namijenjeni su za tržište NATO saveza i iskušavanje na ukrajinskom bojištu. FPV znači “first person view” što znači da čovjek ima daljinski video nadzor nad dronovima, odnosno perspektivu pilota. Tvrtka se kroz partnerstva već proširila na SAD, a prilikom potpisivanja ugovora o partnerstvu s kanadskom tvrtkom Remote Robotic Systems (RRS) u prisustvu hrvatskog premijera Andreja Plenkovića najavljeno je i da će raditi na integraciji umjetne inteligencije u obrambene sustave.
Hoće li dronovi izrađeni u Hrvatskoj imati tzv. “Terminator” način rada, odnosno hoće li se moći koristiti bez ljudskoga pilota u ubojitim akcijama, nismo uspjeli doznati ni sa jedne relevantne vladine adrese, Ministarstva vanjskih poslova niti obrane, pa ni iz Ureda predsjednika Republike. Nisu nam odgovorili na to pitanje, ali ono je možda i izlišno. Nakon ukrajinskog priznanja o likvidaciji vojnika autonomnim dronom kod Bahmuta, New Scientist piše kako takve dronove, uz pomoć dostupnih softvera i jeftinih dijelova, može razviti svaki tehnički pismeniji tinejdžer.
Zato smo Petru Perišić upitali postoji li ikakav pravni okvir u sadašnjem zakonodavstvu koji bi adresirao proizvodnju mašina sa sposobnošću da ubijaju autonomno.
“Prvo, za sada nema posebnog sporazuma koji uređuje korištenje ove vrste oružja; drugo, u nedostatku takvog posebnog sporazuma, valja uzeti u obzir članak 36. Dopunskog protokola I. (1977.) uz Ženevske konvencije iz 1949. g., koji govori o ‘novim oružjima'”, navodi Perišić. U ovom članku stoji: “Prilikom proučavanja; usavršavanja, nabavljanja ili prihvaćanja novog oružja, novih sredstava ili nove metode ratovanja visoka je stranka ugovornica obvezana utvrditi bi li njihova upotreba, u nekim ili u svim okolnostima, bila zabranjena ovim Protokolom ili bilo kojim drugim pravilom međunarodnog prava primjenjivim na tu visoku stranku ugovornicu”.
“Dakle, svaka država stranka, pa tako i Hrvatska, mora utvrditi sukladnost novog oružja s pravilima međunarodnog prava koja ju obvezuju, prvenstveno s pravilima međunarodnog humanitarnog prava koja se primjenjuju u oružanim sukobima, ali i s drugim relevantnim međunarodnopravnim obvezama, primjerice onima iz domene zaštite ljudskih prava, kao što su pravo na život, ljudsko dostojanstvo i slično”, zaključuje Perišić.
Devet problema autonomnog oružja
Koalicija protivnika razvoja oružja bez smislene ljudske kontrole i odlučivanja, Stop Killer Robots, proširila se u zadnjih desetak godina na oko 300 organizacija, uključujući sve relevantne za zaštitu ljudskih prava.
Ističu devet osnovnih problema autonomnog oružja. Prvi je digitalna dehumanizacija. Kada autonomno oružje profilira i obrađuje ljudska bića kao obične podatke, gubi se sposobnost prepoznavanja čovjeka kao osobe. Prepustiti strojevima odluku o napadu na ljude ultimativni je oblik digitalne dehumanizacije koji moramo zabraniti kako bismo se zaštitili od donošenja odluka strojeva i u drugim sferama života.
Druga je algoritamska pristranost. Autonomni sustavi koji ciljaju ljude preuzimaju društvene predrasude i nejednakosti koje su već utkane u naše baze podataka i algoritme. Ubijanje na temelju unaprijed programiranih oznaka i identiteta produbljuje ugnjetavanje i diskriminaciju, pri čemu se nove, problematične tehnologije najčešće prvo testiraju na marginaliziranim skupinama.
Treći problem je gubitak smislene ljudske kontrole. Kada se to desi, korisnici oružja više nisu u potpunosti svjesni posljedica svojih postupaka, čime nestaje prostor za ljudskost i moralnu odgovornost. Strojevi ne razumiju kontekst, vrijednost ljudskog života niti mogu donositi složene etičke odluke, što potkopava postojeća pravna pravila ratovanja.
Četvrti je nedostatak ljudske procjene i razumijevanja. Sustavi umjetne inteligencije i strojnog učenja postaju toliko složeni da se pretvaraju u tzv. “crne kutije” odnosno black box sustave. Kod njih je nemoguće predvidjeti i razumjeti kako donose odluke, dok vojni zapovjednici po zakonu moraju procijeniti nužnost i proporcionalnost napada te razlikovati civile od vojnih ciljeva.
Peti je nedostatak odgovornosti, jer odgovornost mora snositi čovjek, a ne stroj. Ako ljudi ne donose smislene odluke, nepravedno ih je smatrati pravno odgovornima za postupke autonomnog oružja koje je izvan njihove kontrole. Potrebna su jasna pravila kako bi točno određene osobe preuzimale odgovornost za upotrebu sile.
Šesti je nemogućnost objašnjenja što se dogodilo i zašto. Kada autonomni sustavi nanesu štetu ili ubiju, žrtve i njihove obitelji ostaju bez objašnjenja i pravde, jer je nemoguće rekonstruirati zašto je stroj donio određenu odluku.
Sedmi je spuštanje praga za ulazak u rat. Zamjena vojnika strojevima smanjuje rizik za vlastite trupe, što političarima i državama olakšava donošenje odluke o ulasku u sukob. Međutim, to istovremeno udaljava ljude od stvarnih užasa rata i prebacuje teret stradanja još više na civilno stanovništvo, šireći konflikte i izvan aktivnih bojišta.
Osmi je destabilizirajuća utrka u naoružanju. Velike vojne sile opravdavaju golema ulaganja u autonomno oružje strahom da će suprotna strana prva razviti takvu tehnologiju, što dodatno potiču proizvođači oružja radi profita. Ta dinamika uzalud troši novac, podiže međunarodne tenzije i drastično povećava rizik od namjernog ili slučajnog izbijanja sukoba.
Deveti problem je naš odnos prema tehnologiji, jer bi tehnologija trebala služiti miru, pravdi i ljudskim pravima. Odluka o povlačenju granice i zabrani strojeva koji autonomno odlučuju o ubijanju ljudi predstavlja ključni test za naš odnos prema umjetnoj inteligenciji u cijelom društvu. Ako te granice ne postavimo sada, bit će sve teže kako države i tvrtke budu postajale financijski i tehnološki ovisnije o njima, ističe inicijativa Stop Killer Robots.
Da su države već otišle predaleko, upravo u smislu osmog i devetog problema, smatra i jedan od prvih ljudi angažiranih na projektu Maven. Umirovljeni general-poručnik Jack Shanahan za NYT je kazao da ga utrka u ovom vidu naoružanja drži budnim noću.
“Postoji rizik od spiralne eskalacije i ako ne budemo oprezni u opasnosti smo da ćemo upotrijebiti netestirane, nesigurne i neprovjerene sustave, jer svaka strana osjeća da ona druga nešto krije od nje“, rekao je.
