Upotreba veštačke inteligencije u ratu: Možemo li da kontrolišemo robote napravljene da ubijaju?

VIP ličnost pod pratnjom bio je iranski naučnik Mohsen Fahrizadeh, za koga se smatra da je šef iranskog programa nuklearnog naoružanja, piše Gardijan.

On se sa svojom suprugom zaputio na imanje na selu, okružen telohraniteljima u drugim vozilima.

Kada su već bili u blizini odredišta, došlo je do napada.

Odjeknulo je nekoliko pucnjeva, a meci su se zabili u Fahrizadehov crni Nisan, koji se zbog toga zaustavio.

Pucanjva je ponovo počela, a ovog puta hici su u rame pogodili naučnika koji je izašao iz vozila.

Kada se našao na otvorenom, ubica je zadao fatalne pogotke, a Fahrizadehovu suprugu je ostavio nepovređenu da sedi na suvozačkom sedištu.

Zatim se dogodilo nešto bizarno.

Jedan kamionet koji je bio parkiran pored puta eksplodirao je bez nekog očiglednog razloga.

Pregledajući kasnije olupinu ovog vozila, pripadnici iranskih snaga bezbednosti su pronašli ostatke robotizovanog mitraljeza, sa nekoliko kamera i kompjuterski kontrolisanim mehanizmom za povlačenje obarača.

Da li je Fahrizadeha ubio robot?

U izveštaju Njujork tajmsa o ovom događaju otkriveno je da robotski mitraljez nije bio u potpunosti autonoman.

Umesto toga, ubica koji se nalazio na oko 1.000 kilometara udaljenosti je dobijao slike iz vozila i odlučio kada treba povući obarač.

Pokazalo se da je softver veštačke inteligencije kompenzovao kretanje mete za 1,6 sekundi, koliko je bilo potrebno da slike preko satelita stignu od kamioneta do ubice i da se zatim signal za povlačenje obarača vrati nazad.

Ovaj događaj izgleda poput nečega iz košmara, a rat u Ukrajini nimalo ne ublažava strahove od takvih situacija.

Bespilotne letelice su sveprisutne u sukobu, od bajraktara TB2 turske proizvodnje koji je korišćen za napad na okupatorske ruske snage na Zmijskom ostrvu, preko prekomorskih dronova koji su napali ruske brodove u luci Sevastopolj, do modifikovanih kvadrokoptera koji bacaju granate na pešadiju i druge ciljeve.

A ako može da se sudi po snimcima na internetu, stvari bi mogle da postanu još gore.

U jednom videu postavljenom na mreži Veibo, vidi se kako kineski zvaničnik iz ministarstva odbrane upravlja dronom koji postavlja psa robota na zemlju.

Na njegovim leđima se nalazi mitraljez.

U drugom video snimku, jedan ruski državljanin je modifikovao robota psa kupljenog u slobodnoj prodaji tako da može da puca iz puške.

U odgovor na ove uznemirujuće video snimke, Boston dajnemiks i pet drugih kompanija iz oblasti robotike objavili su otvoreno pismo.

“Smatramo da postavljanje oružja na robote – koji mogu da se kontrolišu na daljinu ili su autonomni i dostupni su široj javnosti i sposobni za navigaciju do ranije nedostupnih lokacija na kojima ljudi žive i rade – pokreće nove rizike od štete i ozbiljna etička pitanja”, navodi se u pismu.

“Oružana primena ovih robota koji imaju nove sposobnosti će takođe narušiti poverenje javnosti u tehnologiju na načine koji bi naneli štetu ogromnim prednostima koje oni mogu da donesu društvu”, dodaje se.

“Vidimo da postoji sve više slučajeva da pojedinci pokušavaju da naoružavaju komercijalno dostupne robote, a našim pismom smo želeli da ukažemo da se industrija naprednih mobilnih robota protivi veponizaciji i da je posvećena tome da do nje ne dođe. Nadamo se da ćemo uspeti da podstaknemo zakonodavce da se angažuju po ovom pitanju kako bi nam pomogli da se promoviše bezbedna upotreba mobilnih robota i da njihova zloupotreba bude zabranjena”, navodi se u izjavi koju je kompanija dala za Obzerver.

Međutim, analitičar u oblasti odbrane i vojni istoričar Tim Ripli pokrenuo je pitanje šta ova posvećenost kompanije Boston dajnemiks znači u praksi.

Kako kaže, čak i ako ne postavite oružje na ove robote, oni i dalje mogu da posluže kao instrumenti rata.

“Ako je robot dron za nadgledanje, i pronađe svoju metu, i ako na nju ispalite artiljerijsku granatu, što znači da ubija ljude, onda je i sam taj dron podjednako deo oružanog sistema kao što je to i postavljanje projektila na njega. On je takođe deo lanca ubijanja”, kaže Ripli.

On ističe da je nadzor dronovima odigrao ključnu ulogu u ratu u Ukrajini, gde su ga obe strane koristile da otkriju kretanje neprijatelja i pronađu mete za artiljerijsko bombardovanje.

Kada je reč o kompjuterizovanom vojnom hardveru, uvek postoje dva dela sistema: sam hardver i softver za kontrolu.

Iako roboti koji stoje iza dronova još uvek nisu toliko česti na bojnom polju, veoma je rasprostranjena upotreba softvera koji su sve inteligentniji.

“Postoji čitav spektar autonomije (robota) koja je već ugrađena u naše sisteme. Smatralo se da je to neophodno zato što ljudima omogućava da brzo donose odluke”, kaže Majk Martin, viši saradnik za ratne studije na Kings koledžu u Londonu.

Kao primer, on navodi helikopter Apač koji skenira pejzaž u potrazi za toplotnim izvorima.

Softver koji se nalazi u njemu veoma brzo identifikuje potencijalne mete, a može i da napravi procenu koje od tih meta se smatraju za prioritet i zatim tu informaciju prosledi pilotu kako bi odlučio koji je sledeći potez.

Očigledno je da u vojsci postoji apetit za sve više takvih sistema.

Ali, čak i u najsofosticiranijim takvim sistemima koji trenutno postoje, ljudi su uvek uključeni u donošenje odluka.

Čovek uvek može da odluči da ne usvoji preporuku koju je izdao kompjuter, ali mašina je sve više uključena u donošenje odluka.

Stručnjaci upozoravaju da bi prekretnicu predstavljala ona tačka posle koje bi sistem bio u potpunosti automatizovan i kada bi sam, bez uplitanja ljudi, birao mete i odlučivao o napadu na njih.

“Ako donošenje odluka prepustite autonomnim sistemima, samim tim vi gubite kontrolu, a ko može da garantuje da sistem neće odlučiti da je najbolji način za vođenje rata taj da budu uklonjeni upravo oni koji upravljaju njime”, upozorava Majk Martin.

“Nadajmo se da nikada nećemo doći do toga”, kaže on i zaključuje da bi to bio košmarni scenario koji podseća na scene iz filma Terminator, u kojem roboti sa veštačkom inteligencijom odlučuju da vode rat u cilju istrebljenja čovečanstva.