Da li će veštačka inteligencija uništiti čovečanstvo

Zato je ne malo globalno iznenađenje izazvalo pismo koje poziva na potpuni bojkot Korejskog naprednog instituta za nauku i tehnologiju (KAIST), jedne od vodećih svetskih institucija za robotiku i veštačku inteligenciju (artificial intelligence – AI). Inicijator i prvi potpisnik pisma je profesor Tobi Volš, stručnjak za AI Univerziteta Novi Južni Vels, kome se odmah pridružilo pedesetak vodećih naučnika iz te oblasti, među kojima su i Džefri Hinton, Džošua Bengio i Jirgen Šmithuber. Poziv na bojkot objavljen je pred konferenciju Ujedinjenih nacija u Ženevi na kojoj su predstavnici 80-ak država debatovali o smrtonosnom sistemu autonomnog oružja, poznatom kao robot za ubijanje.

Grupa naučnika zabrinuta je što se scenaristička imaginacija o robotu ubici iz epizode „Metalna glava“ TV serije „Crno ogledalo“ pretvara u stvarnost u Južnoj Koreji. Naime, u toj zemlji početkom marta institut KAIST i jedna od najvećih kompanija za proizvodnju oružja Hanwha Systems osnovali su istraživački centar koji će raditi na razvoju robota ubice, potpuno autonomnog oružja koje može da bira mete i uništava ih bez ljudske kontrole.

Prvi proizvodi – za ubijanje

„Trka u naoružanju je počela. Možemo da vidimo prototipove autonomnog oružja koje razvijaju mnoge države, uključujući SAD, Kinu, Rusiju i Ujedinjeno Kraljevstvo. Postupci KAIST-a samo će ubrzati tu trku. To ne možemo tolerisati. Postoji mnogo odličnih stvari koje se mogu napraviti s veštačkom inteligencijom koja spašava živote. Ali veliku zabrinutost stvara to kad otvoreno objavite da imate cilj da razvijete autonomno oružje i da imate takvog partnera. Reč je o veoma cenjenom Univerzitetu s vrlo etički kontroverznim partnerom koji nastavlja da krši međunarodne norme“, piše Volš, podsećajući na činjenicu da kompanija Hanwha i dalje proizvodi kasetnu municiju, zabranjenu konvencijom UN i upozorava: „Kad ljudima oduzmete moć kontrole, autonomno oružje postaje oružje za masovno uništenje. Jedan programer moći će da napravi ono za što je prebila potrebna vojska ljudi. Ratovanje će se industrijalizovati. To je razlog što se naziva trećom revolucijom ratovanja, posle pronalaska baruta i nuklearnog oružja“.

U nedostatku pravila/regulative i usred zahuktale razvojne trke nedovoljno je vidljivo da je u svetu sve više raznih Terminatora (robota-ubica). Primera radi, britanska kompanija BAE Systems priprema autonomni bespilotni borbeni avion Taranis, a južnokorejska kompanija Dodaam Systems prodaje od 2010. godine borbeni robot Super aEgis II koji detektuje metu na udaljenosti od tri kilometra. Pametni ubica koji je sposoban da donosi vlastite odluke košta 40 miliona dolara a prodaje se „ko alva“, naročito na Bliskom istoku.

Inicijativa za bojkot jedne naučne institucije samo je vrh ledenog brega koji je dodatno problematizovao aktuelnu debatu u naučnim, poslovnim, stručnim i političkim krugovima o razvoju i posledicama primene veštačke inteligencije u raznim oblastima života.

Popularizaciji protivljenja nadiranju veštačke inteligencije značajno su doprineli 116 lidera iz IT oblasti među kojima je i legendarni preduzetnik i inovator Ilon Mask, koji tvrdi da bi prava veštačka inteligencija mogla da znači kraj čovečanstva: „Svet s veštačkom inteligencijom pre bi bio distopija nego utopija. Imam uvid u najnoviju veštačku inteligenciju i mislim da bi ljudi stvarno trebalo da se zabrinu zbog toga. Stalno upozoravam, ali dok ljudi ne ugledaju robote kako idu ulicom i ubijaju ljude, ne znaju kako bi reagovali jer im to deluje toliko nestvarno“. Među stotinak lidera je i Mustafa Sulejman, suosnivač kompanije Dip majnd (DeepMind), koja razvija program koji uči kako da igra video-igre na način sličan ljudima. Slične strahove delio je čuveni (nedavno preminuli) teorijski fizičar Stiven Hoking, za koga je razvoj veštačke inteligencije nagoveštaj apokalipse. Zato je upozoravao da bi roboti i AI mogli u potpunosti da zamene čovečanstvo i pozvao na hitno stvaranje regulatornih mehanizama za primenu veštačke inteligencije: „Bojim se posledica stvaranja nečega što može parirati ljudima ili ih nadmašiti. Veštačka inteligencija bi se mogla osamostaliti i redizajnirati sama sebe na još višem nivou. Ljudi, koji su ograničeni sporom biološkom evolucijom, ne bi se s time mogli takmičiti i bili bi nadjačani“.

I suosnivač Majkrosofta Bil Gejts svestan je rizika i opasnosti koje dolaze s razvojem robotike i AI, ali veruje da će veštačka inteligencija učiniti živote ljudi boljim. Gejts smatra da će koristi i prednosti koje donosi AI biti daleko veće od mogućih problema i izazova, naročito na polju zdravstvene zaštite. „Reč je o stvarnom problemu, ali nije u pitanju nešto oko čega treba odmah podići uzbunu“, tvrdi suosnivač Majkrosofta. A Mark Zakenberg, vlasnik Fejsbuka, na sve načine i u sve proizvode pokušava da uključi veštačku inteligenciju. „Smatram da neko ko negira veštačku inteligenciju i predstavlja je kao sudnji dan… ne razumem to. Smatram to vrlo neodgovornim“. On tvrdi da će veštačka inteligencija u narednih 10 godine toliko unaprediti kvalitet života ljudi da se ne sme tolerisati zaustavljanje istraživanja i njen razvoj.

Nekadašnji šampion sveta u šahu Gari Kasparov rekao je da ne veruje da od AI dolazi velika pretnja čovečanstvu i da ljudi treba da prihvate promene koje pametne mašine donose društvu.

Američki sekretar za finansije Stiven Mnučin ubeđen je da veštačka inteligencija neće predstavljati ozbiljan izazov bar narednih 50-100 godina. I Erik Šmit, šef moćnog američkog IT konglomerata Alfabet, tvrdi da je razvoj AI koja će nadilaziti ljudsku – godinama daleko.

Ali Donald Klark, profesor Darbi univerziteta, veruje da nije pitanje kako ćemo koristiti veštačku inteligenciju, jer smo već u tom svetu: „Veštačka inteligencija je novi korisnički interfejs. Zaboravljamo da Gugl postoji gotovo odnedavno, svi ga koristimo, i đaci kada spremaju ispite i naučnici kada pišu radove. Gugl mape koristimo svakodnevno. A sve to je vođeno veštačkom inteligencijom. Zamislite sada svet bez Gugla, koliko bi se u tom slučaju smanjila produktivnost. Nekada se računovodstvo vodilo drugačije, a danas se, kao i neka druga zanimanja, vodi pomoću algoritma. Podaci su pokazali da je nastankom Gugla došlo do ogromnog povećanja produktivnosti. Razvoj AI nije opasnost po čoveka“.

Ko će vladati svetom

Da bi, ipak, predupredio negativne posledice, Ilon Mask je donirao više od milijardu dolara firmi OpenAI kako bi stvorio sigurnu i prijateljski nastrojenu veštačku inteligenciju sposobnu da sarađuje s čovečanstvom, a ne da se takmiči s njim. „Ako imate veštačku inteligenciju i čovečanstvo i jedni i drugi pokušavaju da pridobiju one druge i žele istu stvar, to je recept za sukob“, kaže Sem Altman, šef OpenAI.

Dileme čovečanstva uopšte nisu naivne. Razumljivo je interesovanje prvo stručne a zatim i laičke javnosti za budućnost veštačke inteligencije – da li će uticati pozitivno ili negativno na nas, da li čovečanstvo zaista može da očekuje „Terminator scenario“ ili bi ipak trebalo da budemo optimistični da će nas u bliskoj budućnosti roboti operisati i voziti avionom. Nije ni svejedno kad se čuje procena da će razni oblici AI zameniti skoro trećinu današnjih poslova u svetskoj privredi. Ako je samo suditi po investicionom bumu, ovo su zlatne godine za ulagače u poslove i kompanije koje se bave veštačkom inteligencijom. Od 2014. godine ulaganja u start ap firme koji se bave AI rastu po godišnjoj stopi od 300 odsto.

„Ko vlada veštačkom inteligencijom, vladaće svetom“, veruje ruski predsednik Vladimir Putin, ali odmah dodaje da zaista ne bi voleo da bilo ko ima monopol. „Veštačka inteligencija je budućnost ne samo Rusije već čovečanstva. Tu leže kolosalne mogućnosti ali i rizici“ za koje i Putin kaže da ih je danas teško predvideti.

Zašto se države bave razvojem veštačke inteligencije? Odgovor na to pitanje ponudilo je istraživanje Mekinzijevog Globalnog instituta koje je pokazalo da će 2030. godine jedna trećina BDP-a Nemačke zavisiti od povećanja produktivnosti, a najvažniji izvor produktivnosti biće veštačka inteligencija.

Trku u razvoju i primeni AI otvorile su zapravo kompanije da bi povećale produktivnost i konkurentnost, promenile situaciju na tržištu u svoju korist i smanjile troškove poslovanja. Upečatljiv je primer kompanije Gugl, koja se smatra pionirom u ovoj oblasti, čiji su vlasnici i upravljački menadžment odlučili da celu kompaniju reorganizuju na principu koji je direktor kompanije Sundar Pičai nazvao „AI first“ – veštačka inteligencija u temelju svega. Novi Gugl prevodilac, za koji su brojni korisnici primetili početkom prošle godine da je postao neuporedivo bolji, predstavlja završetak inicijalne faze Gugla budućnosti. Deo unutar kompanije nazvan Google Brain osnovan je 2012. godina na teoriji da veštačke „neuronske mreže“ mogu da razviju fleksibilnost (kroz pokušaje i greške) nalik onoj koju poseduje mozak miša. Guglova kompanija DeepMind, lider u oblasti veštačke inteligencije, u saradnji s timom istraživača londonskog Imperijal koledža stvorila je algoritam „elastična masa konsolidacije“ (elastic weight consolidation – EWC) koji koristi zapamćene informacije da uspešno odigra jednu igru a zatim najkorisnije delove prenosi u drugu igru. Ali, DeepMind nije ostao samo na igricama, otišao je korak dalje u poslovnu sferu. Počeo je pregovore s nacionalnom energetskom mrežom o smanjenju potrošnje električne energije u Velikoj Britaniji. Osnivač i izvršni direktor Demis Hasabis smatra da bi se upotrebom veštačke inteligencije za optimizaciju elektromreže mogla smanjiti potrošnja energije do 10 odsto, što bi bila značajna ušteda u finansijskom ali i u smislu smanjenja emisije ugljen-dioksida. DeepMind je sličnom analizom Guglovih data centara do 15 odsto smanjio potrošnju električne energije. Šef Gugla Sundar Pičai uporno ističe razliku između trenutnih primena AI i finalnog cilja „opšte veštačke inteligencije“ koja neće podrazumevati samo praćenje jasnih uputstava, nego će imati mogućnost interpretacije. To će biti sveobuhvatan i opšteprihvaćeni alat koji je u stanju da ekstrapolira buduće želje i potrebe kupaca kojih oni još nisu svesni. A drugi korak je veštačka inteligencija koja programira samu sebe i svakodnevno uči.

Svojevrsni delirijum zahvatio je čitavu industriju, a prednjače Epl, Fejsbuk, Majkrosoft, Amazon, Baidu, Alibaba, Tesla motors… Epl uveliko radi na procesoru, unutar kompanije poznat kao Eplov nervni motor, koji će omogućiti da uređaji obavljaju zadatke koje sada obavljaju korisnici, poput prepoznavanja lica ili glasa. Kineski trgovački div Alibaba objavio je da će u naredne tri godine investirati 15 milijardi dolara u istraživački program „Alibaba DAMO Academy“ koji obuhvata sedam istraživačkih laboratorija i 100 naučnika iz celog sveta čiji će se rad fokusirati na AI.

Za običnog čoveka najvidljiviji komercijalizovani oblik veštačke inteligencije za sada, osim pametnih telefona, su samoupravljajući automobili (Tesla, BMW, VW, Ford…).

„Inteligentna“ auto-guma

Trendove u auto-industriji prate i dobavljači delova i opreme. Kompanija Gudjer razvila je gumu Eagle 360 Urban koja pomoću veštačke inteligencije ima sposobnost registrovanja, odlučivanja, preoblikovanja i interaktivnosti što joj omogućava da se brzo prilagodi promeni uslova vožnje. Gudjer je razvio i gumu IntelliGrip Urban za autonomne automobile.

Kompanija Rols Rojs najavila je brod bez ljudske posade koji bi mogao da zaplovi od 2020. godine. „Nije pitanje da li će, nego kad će“, kaže potpredsednika kompanije Oskar Levander. Na brodovima koji će ploviti pomoću veštačke inteligencije rade i japanske transportne kompanije Mitsui OSK Lines i Nippon Yusen koje će s Japan Marine United podeliti stotine miliona dolara troškova i razmeniti znanje.

Ni filmska industrija nije imuna na veštačku inteligenciju

Pre dve godine, uoči izlaska novog horor filma „Morgan“ filmski studio 20th Century Fox u saradnji s IBM-om napravio je prvi kognitivni trejler za film. Tako je film koji se bavi sudbinom veštački stvorenog bića sličnog čoveku dobio najavu koju je napravila veštačka inteligencija uz ljudsku pomoć.

Istraživanje dr Luka Oukden Rejnera, sa univerziteta u Adelejdu, pokazalo je da AI može na osnovu analize snimaka pluća da predvidi koji pacijenti će umreti u periodu od pet godina sa 69 odsto preciznosti u poređenju sa „ručnim“ predviđanjima.“Predviđanje budućnosti pacijenata može da omogući doktorima da prilagode terapiju od pacijenta do pacijenta“, objasnio je doktor Rejner.

Nordea, najveća banka na severu Evrope, uvela je programe veštačke inteligencije koji odgovaraju na uobičajena pitanja klijenata i ukinula 4.000 radnih mesta. Financial Stability Board (FSB), globalni regulator finansijskih sistema započeo je ozbiljnu debatu o primeni veštačke inteligencije u bankarstvu i osiguranju. Pošto za sada ne postoje međunarodni regulatorni standardi za veštačku inteligenciju, FSB ostavlja otvorenu mogućnost uvođenja novih pravila. Strahuje se da bi AI pri proceni kreditne sposobnosti klijenata, obrade i analize podataka i uočavanje profitabilnih trgovina na tržištima, mogla dovesti do neodrživog povećanja kreditnih zaduživanja zbog automatskog bodovanja kreditne sposobnosti.

Primer banke Nordea s otpuštanjem zaposlenih otvorio je još jedno škakljivo pitanje vezano za primenu AI.

Profesor Donald Klark kao izvestan najavljuje nestanak nekih poslova i profesija: „Znamo da će nezaposlenost biti velika, to je destruktivna strana priče. Međutim, veštačku inteligenciju treba koristiti za obrazovanje i obučavanje u veštinama za poslove budućnosti“.

Svetsko istraživanje Instituta za budućnost čovečanstva Univerziteta Oksford pokazalo je da će veštačkoj inteligenciji trebati 45 godina da preuzme polovinu ljudskih poslova, a da će tek za 120 godina preuzeti sve ljudske poslove.

Prema izveštaju specijalizovane kompanije Forester samo u Americi u narednih 10 godina 16 odsto poslova biti zamenjeno veštačkom inteligencijom i da će 24 miliona ljudi zbog toga izgubiti radno mesto.

Podaci ipak nisu tako crni jer proces nije jednosmeran. AI istovremeno stvara nove poslove i radna mesta koji do sada nisu postojali. Kad se sve sabere i oduzme, samo sedam odsto poslova biće zamenjeno veštačkom inteligencijom. Analitičari Forestera podsetili su da je u poslednjih 150 godina tehnologija zapravo stvorila više poslova nego što ih je ugasila.

A naučnici koji su radili na studiji oksfordskog Instituta zaključili su da će veštačka inteligencija potpuno promeniti saobraćaj, zdravstvo, nauku i finansije.

Istraživači konsultantske firme PwC pronašli su da će najveću apsolutnu dobit od primene AI imati maloprodaja, finansijske usluge i zdravstvena zaštita.

Inače, istraživanje PwC-a pokazalo je da će 2030. godine globalni bruto domaći proizvod (BDP) biti 14 odsto veći zahvaljujući AI, što je dodatnih 15,7 biliona dolara (više od objedinjene proizvodnje Kine i Indije iz 2016. godine). Taj podatak čini veštačku inteligenciju najvećom poslovnom prilikom u današnjoj svetskoj ekonomiji. Najveća privredna dobit od AI ostvariće se u Kini (26 odsto veći BDP u 2030) i Severnoj Americi (rast 14,5 odsto), što odgovara ukupnom iznosu od 10,7 biliona dolara (skoro 70 odsto globalnog privrednog učinka).

Šef PwC tima za veštačku inteligenciju Anand Rao kaže da AI povećava produktivnost, vrednost proizvoda i potrošnju i da je PwC index uticaja (AI Impact) utvrdio tri područja poslovanja s najvećim potencijalom za veštačku inteligenciju: dijagnostika na osnovu slike, proizvodnja na zahtev i autonomno upravljanje saobraćajem.

Šef analitike u PwC-u Džerard Vervej smatra da nijedan sektor ili preduzeće nisu imuni na uticaj AI: „Firma koja ne prihvati veštačku inteligenciju mogla bi ubrzo početi da zaostaje za drugima u realnom vremenu, u troškovima i iskustvu i izgubiti značajan tržišni udeo“.

Milijarde u globalnoj trci

Kina će graditi nacionalnu laboratoriju za veštačku inteligenciju u okviru razvojnog parka sa 400 firmi u koji će investirati dve milijarde dolara. Korporacija zadužena za izgradnju parka traži partnere među inostranim univerzitetima da razvije laboratoriju za AI na nacionalnom nivou.

Erik Šmit predvideo je na jednom lanjskom tech forumu da će američka prednost u oblasti razvoja i primene veštačke inteligencije trajati narednih pet godina a da će Kina postati lider u toj oblasti do 2030. godine. Šmit tvrdi da će Kina koristiti AI za komercijalne i vojne ciljeve, bez obzira na posledice, pri čemu se poziva na dokument kineskih vlasti u kome se ocrtavaju takve ambicije.

Francuska će, da bi održala korak s SAD i Kinom, uložiti 1,5 milijardu evra državnih sredstava u istraživanja iz ove oblasti do 2022. godine.

Veštačka inteligencija je vizija i dva bliskoistočna vladara – šeik Muhamed bin Rašid al Maktum (Dubaji) i šeik Muhamed bin Zajed al Nahjan (Ujedinjeni Arapski Emirati) pokreću plan za razvoj AI do 2070. godine. „Osnovaćemo posebnu megakompaniju koja će se baviti samo time i koja bi trebalo da postavi temelje za dalji razvoj“, izjavio je vladar Dubaija. „Investirali smo 16 godina u elektroniku i sada je red na novu fazu u razvoju, a to je veštačka inteligencija“, rekao je vladar UAE.