Raširena upotreba dronova tokom rata u Ukrajini ubrzala je rad na razvoju tehnologije koja bi mogla dovesti do nove ere ratovanja – u kojoj bi bitke vodili potpuno autonomni borbeni roboti. To bi u vojnoj tehnologiji predstavljalo revoluciju poput one kada su izmišljeni mitraljezi.
Što rat duže traje, veća je vjerovatnoća da će se dronovi koristiti za identifikaciju, odabir meta i napade, bez pomoći ljudi, smatraju vojni analitičari, ratnici i istraživači vještačke inteligencije.
Ukrajina već ima poluautonomne dronove za napade, kao i oružja protiv bespilotnih letjelica koja koriste vještačku inteligenciju. Rusija takođe tvrdi da posjeduje oružja sa vještačkom inteligencijom, iako su ti navodi za sada bez dokaza.
Do sada nema potvrđenih slučajeva da je neka od nacija u borbu ubacila robote koji su ubijali samostalno, bez učestvovanja ljudi. Stručnjaci kažu da je možda samo pitanje vremena kada će ih Rusija ili Ukrajina, ili obje zemlje, poslati na ratište.
„Mnoge države razvijaju ovu tehnologiju“, kaže Zakari Kalenborn, analitičar inovacija u oružju sa Univerziteta Džordž Mejson. „Jasno je da to nije tako teško”.
Aktivisti koji su godinama pokušavali zabraniti dronove ubice sada vjeruju da se moraju zadovoljiti pokušajima ograničavanja ofanzivne upotrebe takvih oružja.
Ukrajinski ministar za digitalnu transformaciju Mihajlo Fedorov slaže se da su potpuno autonomni dronovi ubice "logičan i neizbježan sljedeći korak" u razvoju oružja. Dodao je da Ukrajina radi “mnogo istraživanja i razvoja u tom smjeru”.
„Mislim da je potencijal za to veliki u narednih šest mjeseci“, rekao je Fedorov za Asošijeted pres u nedavnom intervjuu.
Ukrajinski vojni lideri trenutno zabranjuju upotrebu potpuno autonomnih smrtonosnih oružja, iako bi se to moglo promijeniti, kaže ukrajinski potpukovnik Jaroslav Hončar, suosnivač neprofitne organizacije za inovacije borbenih dronova "Aerorozvidka", koja je postala poznata po pretvaranju jeftinih komerijcalnih dronova u smrtonosno oružje.
“Nismo još prešli tu granicu – a kažem ‘još’ jer ne znam šta će se dešavati u budućnosti”, rekao je Hončar, dodajući da ljudi ne mogu da donose odluke i procesiraju informacije brzo kao mašine.
Rusija bi autonomnu vještačku inteligenciju mogla dobiti i od drugih zemalja, kao što je Iran. Bespilotne iranske letjelice velikog dometa koje Rusija već koristi nanijele su ogromnu štetu energetskim postrojenjima Ukrajine i redovno se koriste za teroriziranje civila, ali one nisu posebno pametne. Iz Irana navode da u svom arsenalu posjeduju i druge dronove sa vještačkom inteligencijom.
Zapadni proizvođači poluautonomnih dronova koje koristi Ukrajina, poput američkog drona „Switchblade“ kažu da bi ih ta zemlja bez velikih problema mogla učiniti potpuno nezavisnim od ljudi na bojnim poljima, pa bi na primjer dronovi sami mogli da biraju mete.
“Tehnologija za postizanje potpuno autonomne misije sa ‘Switchbladeom’ praktično već postoji”, kaže Vahid Navabi, izvršni direktor kompanije "AeroVironment", proizvođača tih dronova. Ipak, to će zahtijevati promjenu politike, odnosno, uklanjanje čovjeka iz kruga donošenja odluka, za šta Navabi procjenjuje da će se dogoditi za tri godine.
Vještačka inteligencija je već u upotrebi
Dronovi već sada na osnovu fotografija mogu da prepoznaju mete kao što su oklopna vozila. Ali postoje neslaganja da li je ta tehnologija dovoljno pouzdana da bi mogla da spriječii greške i stradanja onih koji ne učestvuju u borbama.
Asošijeted pres je pitao ministarstva odbrane Ukrajine i Rusije da li su koristili autonomna oružja za ofanzivna djelovanja - i da li bi se složili da ih ne koriste ako i druga zemlja pristane na to. Nijedna strana nije odgovorila na ta pitanja.
Čak i ako bi jedna od dvije države upotrijebile autonomnu vještačku inteligenciju za ofanzivna djelovanja, to možda i ne bi bio prvi takav slučaj.
U prošlogodišnjem izvještaju UN-a navedeno je da su roboti ubice imali premijeru u sukobima u Libiji tokom 2000. godine, kada su bespilotne letjelice turske proizvodnje „Kargu-2“ potpuno samostalnim djelovanjem usmrtile neutvrđen broj protivničkih boraca.
Portparol proizvođača tih dronova, kompanije STM, navela je da je taj izvještaj zasnovan na „spekulativnim i neprovjerenim“ informacijama, te da ga "ne treba uzimati ozbiljno". On je za Asošijeted pres rekao da „Kargu-2“ ne može da napadne metu dok mu operater ne kaže da to uradi.
Potpuno autonomna vještačka inteligencija već pomaže u odbrani Ukrajine, na primjer američki sistemi za lov i obaranje bespilotnih letjelica. Radari su dizajnirani da identifikuju neprijateljske bespilotne letjelice, koje ukrajinski dronovi potom onesposobe ispaljivanjem mreža na njih - sve bez ljudske pomoći.
Broj dronova opremljenih vještačkom inteligencijom stalno raste. Izrael ih izvozi decenijama. Peking je razvio bespilotni naoružani helikopter „Blowfish-3“. Rusija radi na nuklearnom podvodnom dronu pod imenom Posejdon. Holanđani testiraju kopnenog robota sa mitraljezom 50-milimetarskog kalibra.
Hončar kaže da bi Kremlj do sada koristio ovakvu tehnologiju da je ima, s obzirom da je Rusija do sada pokazala malo poštovanja za međunarodno pravo.
Vladimir Putin, predsjednik Rusije, rekao je 2017. godine da će svijetom vladati ko god bude ostvario dominaciju u toj oblasti, izražavajući povjerenje da ruska vojna industrija može da proizvede autonomne dronove.
"Neće biti lako znati da li je i kada je Rusija prešla tu granicu", kaže Gregori Alen, bivši direktor strategija i politika u Zajedničkom centru za vještačku inteligenciju Pentagona.
Prebacivanje drona sa daljinskim upravljanjem na punu autonomiju možda neće ni biti lako primjetiti. Do sada su bespilotne letjelice koje mogu da djeluju na oba načina postizale bolje rezultate kada su njima pilotirali ljudi, rekao je Alen.
Stjuart Rasel, profesor Kalifornijskog univerziteta Berkli i istraživač vještačke inteligencije, kaže da sama tehnologija nije mnogo komplikovana.
Opasnosti od upotrebe autonomnih robota i dronova
Pokušaji da se postave međunarodna pravila za vojne dronove do sada nisu bili uspješni. Devet godina neformalnih pregovora u okviru UN-a u Ženevi nije dovelo do velikog napretka, a velike sile, uključujući Sjedinjene Države i Rusiju, protive se zabrani. Posljednji sastanak u decembru okončan je bez zakazivanja nove runde razgovora.
Kreatori politika u Vašigtonu kažu da neće pristati na zabranu, jer se rivalima koji razvijaju dronove ne može vjerovati da će ih etički koristiti.
Tobi Volš, naučnik iz Australije, koji kao i Rasel vodi kampanju protiv robota ubica, kaže da se nada da će se postići konsenzus o nekim ograničenjima, uključujući zabranu sistema koji koriste tehnologiju za prepoznavanje lica i druge podatke za identifikaciju ili napade na pojedince ili grupe ljudi.
“Ako ne budemo oprezni, oni će se širiti mnogo lakše nego nuklearno oružje”, rekao je Volš, autor knjige “Mašine koje se loše ponašaju”. “Ako možete natjerati robota da ubije jednu osobu, možete ga natjerati da ubije hiljadu ljudi”.
Naučnici su takođe zabrinuti da će se oružja sa veštačkom inteligencijom dokopati teroristi, na primjer krađom tehnologije od američke vojske.
Pentagon do danas nije jasno definisao "autonomno oružje" niti je odobrio da ga američke trupe koriste, kaže Alen, bivši zvaničnik američkog sekretarijata za odbranu. Svaki predloženi sistem moraju da odobre predsjedavajući Združenog generalštaba oružanih snaga i dva podsekretara odbrane.
Međutim, to nije prepreka za razvoj tih oružja širom Sjedinjenih Država, poput projekata u Agenciji za napredne odbrambene istraživačke projekte, u vojnim laboratorijama, akademskim institucijama, te u privatnom sektoru.
Pentagon je naglasak stavio na korišćenje vještačke inteligencije kao vida dopune sposobnosti ljudi.
U nekim odbrambenim sistemima, ljudi su već dobili sekundarnu ulogu, na primjer u Izraelu, gdje raketni štit „Iron Dome“ ima ovlašćenje da sam otvara vatru, iako postoji osoba koja ga nadgleda i može da interveniše ako napadne pogrešnu metu.
