Pozivi za stvaranje tela UN za nadzor veštačke inteligencije

Zlonamerno korišćenje sistema veštačke inteligencije moglo bi uzrokovati „užasnu“ količinu smrti i razaranja, rekao je generalni sekretar UN, pozivajući na stvaranje novog tela UN koje bi se pozabavilo pretnjama koje predstavlja ova tehnologija, napisao je ;Gardijan.

Gutereš je rekao da štetna upotreba veštačke inteligencije u terorističke, kriminalne ili državne svrhe takođe može uzrokovati „duboku psihološku štetu“, te je rekao da su sajber napadi omogućeni veštačkom inteligencijom već ciljani na mirovne i humanitarne operacije UN-a.

„Zlonamerna upotreba AI sistema u terorističke, kriminalne ili državne svrhe mogla bi uzrokovati užasne smrti i razaranja, široko rasprostranjenu traumu i duboku psihičku štetu nezamislivih razmera“, rekao je Gutereš.

Govoreći na prvoj sednici Saveta bezbednosti UN o veštačkoj inteligenciji, 18. jula, on je rekao da bi pojava generativne veštačke inteligencije – termina za AI alate kao što je ChatGPT koji proizvode uverljiv tekst, sliku i glas iz ljudskih podsticaja – mogla značiti odlučujući trenutak za dezinformacije i govor mržnje i dodati „novu dimenziju“ manipulaciji ljudskog ponašanja.

Gutereš je pozvao na stvaranje novog tela UN-a po uzoru na slične agencije, poput Međuvladinog panela za klimatske promene, kako bi se uhvatio u koštac s rizicima.

„Ključni cilj ovog tela bio bi da podrži zemlje da zauvijek maksimiziraju koristi od AI, da ublaže postojeće i potencijalne rizike, te da uspostave i upravljaju međunarodno dogovorenim mehanizmima za praćenje i upravljanje“, rekao je on.

Gutereš je na sednici SB UN rekao da bi nadzorno telo UN-a trebalo da deluje kao upravljačka agencija koja reguliše, prati i sprovodi regulative vezane za veštačku inteligenciju, piše ;Njujork tajms.

Predložena agencija bi se sastojala od stručnjaka iz ove oblasti koji bi svoju stručnost podelili s vladama i administrativnim agencijama kojima možda nedostaje tehničko znanje za rešavanje pretnji od veštačke inteligencije.

Većina diplomata je podržala pojam globalnog mehanizma upravljanja i skup međunarodnih pravila, ističe Njujork tajms, dodajući da izgledi za pravno obavezujuću rezoluciju o upravljanju AI ipak ostaju daleki.“Nijedna zemlja neće ostati netaknuta veštačkom inteligencijom, tako da moramo uključiti i angažovati najširu koaliciju međunarodnih aktera iz svih sektora“, rekao je britanski ministar spoljnih poslova Džejms Kleverli, koji je predsjedavao sastankom jer Britanija predsedava SB UN ovog meseca.

Diplomate ali i vodeći stručnjaci iz oblasti AI 18. jula su izložili SB UN rizike i pretnje, zajedno sa naučnim i društvenim koristima, nove tehnologije u nastajanju. Istaknuto je da mnogo toga o ovoj tehnologiji ostaje nepoznato, koja je, napisao je list, izazvala barem onoliko strahova koliko i nade.

Na sednici je spomenuta i vojna upotreba autonomnog oružja na bojnom polju ili za atentate, kao što je AI Robot kojeg je Izrael poslao u Iran da ubije vrhunskog nuklearnog naučnika, Mohsena Fahrizadeha.Gutereš je rekao da Ujedinjene nacije moraju doći do pravno obavezujućeg sporazuma do 2026. godine o zabrani korišćenja AI u automatskom oružju.

Na prvom sastanku SB UN o veštačkoj inteligenciji Kina je poručila kako tehnologija ne bi trebalo da postane „odbegli konj“, dok su Sjedinjene Države upozorile da AI ne bi trebalo da se koristi za cenzuru ili represiju, naglasio je ;Rojters.

Kineski ambasador u UN Žang Jun opisao je AI kao „mač s dve oštrice“ i rekao da Peking podržava centralnu koordinacijsku ulogu UN u uspostavljanju vodećih principa za veštačku inteligenciju.

„Da li je (AI) dobra ili loša, dobra ili zla, zavisi od toga kako je čovečanstvo koristi, reguliše i kako se balansira naučni razvoj i bezbednost“, rekao je Žang, dodajući da je potrebna fokusiranost i na ljude i na AI kako bi se dobro regulisao njen razvoj i „sprečilo da ova tehnologija postane odbegli konj“.

Zamenik američkog ambasadora u UN, Džefri Delarentis (Jeffrey DeLaurentis) takođe je rekao da postoji potreba da zemlje rade zajedno na AI i drugim novim tehnologijama kako bi se pozabavile rizicima po ljudska prava koji prete da naruše mir i sigurnost.“Nijedna država članica ne bi trebalo da koristi veštačku inteligenciju za cenzuru, ograničavanje, represiju ili obespravljivanje ljudi“, rekao je.

Rusija je postavila pitanje da li SB UN koji je zadužen za održavanje međunarodnog mira i sigurnosti, treba da raspravlja o AI.“Ono što je neophodno je profesionalna, naučna, stručno zasnovana diskusija koja može potrajati nekoliko godina i ta diskusija je već u toku na specijalizovanim platformama“, rekao je zamenik ruskog ambasadora u UN Dmitrij Poljanski.

Britanski ministar spoljnih poslova koji je predsedavao sastankom o veštačkoj inteligenciji poručio je da će AI „fundamentalno promeniti svaki aspekt ljudskog života“ te da je hitno potrebno „oblikovati globalno upravljanje transformativnim tehnologijama jer veštačka inteligencija ne poznaje granice“.O pretnjama AI globalnom miru, SB UN su izvestili Džek Klark (Jack Clark), suosnivač visokoprofilnog AI startapa Antropik (Anthropic) i profesor Zeng Ji, kodirektor Kinesko-britanskog istraživačkog centra za etiku i upravljanje veštačkom inteligencijom.

Klark je poručio kako se ne može verovati da će nekolicina velikih tehnoloških kompanija koje vode trku za komercijalizaciju AI garantovati sigurnost sistema koje još ne razumemo pa zbog toga svet mora da se udruži kako bi sprečio zloupotrebu tehnologije, ističe ;Asošiejtid pres ;(The Associated Press).

Izvršni direktor Antropika koji je napustio OpenAI, kreatora najpoznatijeg ChatGPT chat bota, kaže da je pratio razvoj AI u protekloj deceniji do 2023. godine, gde novi sistemi veštačke inteligencije mogu pobediti vojne pilote u simulacijama vazdušnih borbi, stabilizovati plazmu u reaktorima nuklearne fuzije, dizajnirati komponente za poluvodiče sledeće generacije i pregledati robu na proizvodnim linijama.Upozorio je na „potencijalne pretnje međunarodnom miru, sigurnosti i globalnoj stabilnosti“ zbog dva bitna kvaliteta AI sistema – njihovog potencijala za zloupotrebu i njihove nepredvidivosti „kao i inherentne krhkosti koje razvija tako uski skup aktera“.

U video brifingu SB UN, Klark je takođe izrazio nadu da će globalna akcija uspeti rekavši da je ohrabren što mnoge zemlje naglašavaju važnost testiranja i procene sigurnosti u svojim predlozima o AI, uključujući Evropsku uniju, Kinu i SAD.

Trenutno, međutim, ne postoje standardi ili čak najbolje prakse o tome „kako testirati ove granične sisteme na stvari kao što su diskriminacija, zloupotreba ili sigurnost“, što otežava vladama da kreiraju politike i omogućava privatnom sektoru da uživa prednost u informacijama, rekao je Klark.

Profesor Zeng Ji, direktor Laboratorije za kognitivnu inteligenciju inspirisanu mozgom, Kineske akademije nauka, rekao je SB UN da „Ujedinjene nacije moraju igrati centralnu ulogu u uspostavljanju okvira za AI za razvoj i upravljanje kako bi se osigurali globalni mir i sigurnost“. Zeng je predložio da SB UN razmotri osnivanje radne grupe za razmatranje kratkoročnih i dugoročnih izazova koje AI predstavlja za međunarodni mir i sigurnost.Generalni sekretar UN Antonio Gutereš je naglasio da su UN „idealno mjesto“ za usvajanje globalnih standarda kako bi se maksimizirale prednosti veštačke inteligencije i ublažili njeni rizici.

Kao prvi korak ka zbližavanju nacija, Gutereš je pozvao da se imenuje Savetodavni odbor na visokom nivou za AI koji će do kraja godine izveštavati o opcijama za globalno upravljanje ovom tehnologijom.