INTERVJU Dubravko Ćulibrk: Mediji i veštačka inteligencija uzajamno pojačavaju potencijal za zloupotrebu veštačke inteligencije

*Ako ne najdinamičniji, onda trenutno u svetu sigurno najpopularniji deo nauke je razvijanje veštačke inteligencije, AI (artificial intelligence) ili oblasti VI. Dešavanja su toliko brza i velika da se ljudi svega već pomalo i plaše. AI platforme poput ChatGPT Midjourney-a, promenili su neke navike na internetu, ali i u biznisu, za samo nekoliko meseci. Deluje da su mogućnosti pred njima u budućnosti neograničene, ali i zloupotrebe na nikad lakšem dohvatu ruke.

– Napredak tehnologije u domenu chatbotova nije neko veliko iznenađenje. Mislim da je OpenAI, uz veliku podršku Majkrosofta, imao slobodu eksperimentisanja sa proizvodom i želju za preuzimanjem dela tržišta, koju kompanije poput Google i Meta nisu imale, pa je ubrzao trku u domenu primena velikih jezičkih modela (čitaj GPT, bez „Chat“) dela, rekao je Ćulibrk za Danas.

*Kako svojim studentima na Fakultetu tehničkih nauka gde ste redovan profesor objašnjavate šta je inteligencija, a šta je AI, mnogo stvari tu znamo da pobrkamo?

-Da budem iskren, ne objašnjavam im. Ima toliko definicija prirodne inteligencije, da ne preferiram neku posebnu. Za naš posao je to jednostavno sposobnost rešavanja problema i to je dovoljno. Čini mi se da svaki moj student ima ideju šta je to inteligentno ponašanje i to je dovoljno. Malo prodiskutujemo šta je inteligencija za njih i obično vrlo brzo konvergiramo. Meni se oduvek sviđala definicija koju je predložio osnivač MIT AI laboratorije Marvin Minski, koji okvirno kaže da je to „nauka koja se bavi razvojem mašina koje rade stvari koje bi zahtevale inteligenciju kada bi ih radili ljudi“. Šta god da neko misli da zahteva inteligenciju i ispostavi se da to mašina može da mu odradi, to je za tog nekog veštačka inteligencija.

Naravno, danas moramo da regulišemo ovu tehnologiju, pa se javila potreba za relativno preciznim definisanjem, ali nijedna definicija nije idealna. U okviru pisanja evropskog VI akta, koji će zakonski regulisati primenu VI u EU, na definiciji se radilo više od godinu dana i utisak je, čini mi se, da smo dobili nešto što će služiti za sada, ali daleko je od toga da je definicija kojom smo svi zadovoljni, ako iko i jeste.

*Kako Vam se čini neverovatan upeh AI chatbotova poslednjih meseci? Srodnim temama se bavite već godinama, a poprilično ste upoznati sa svime što se tu dešava.

– Ono što je meni jako zanimljivo je to što je GPT 3 postojao, bio istreniran i korišćen u određenim primenama (poput generisanja postova za društvene mreže za potrebe marketinga) dve godine pre nego što je pušten na tržište u okviru ChatGPT-a, a da to neki uticaj na javnost, osim uskostručnu nije imalo. Mislim da to više govori o ljudskoj prirodi, nego o tehnologiji. Onog momenta kad smo svi dobili opciju da komuniciramo sa modelom, tek onda nam je svima postao zanimljiv. I naravno, prirodna pretpostavka je da ako možeš da pričaš sa nečim, onda se iza nalazi nešto što je vrlo slično onome što nama omogućava da pričamo i mislimo. To je, naravno, potpuna antropomorfikacija, pa kad shvatiš da ta stvar ipak ima neka ograničenja, onda se razočaraš.

*Da li je početni entuzijazam već splasnuo, koji su to prvi problemi na koje smo naišli?

– Nešto slično se desilo i pre tridesetak godina, kada su, doduše samo u ograničenom okruženju stručne javnosti, neuronske mreže pokazale svoje prve uspehe, ali nisu uspele da ispune sva očekivanja koja su pre njih stavljena. Tada je razočarenje dovelo do tzv. „zime VI“ – perioda u kome većina VI stručnjaka nije želela da se bavi ovom tehnologijom i u koju praktično niko nije hteo da ulaže. Naravno, ceo razvoj savremenog VI je zasnovan baš na neuronskim mrežama. Što se tiče problema, tu su se nekako iskristalisale dve klase: tehnički i oni drugi (etički, pravni itd.). Ovi drugi se svode na to da sad imaš nešto što jako brzo i lako generiše tekstove, slike itd., što su poslovi koji ipak zahtevaju određeni trud kada ih rade ljudi i taj trud se tipično naplaćuje, pa je sad pitanje da li je etički i pravno u redu i kada je u redu koristiti neke od ovih tehnologija. Sa stanovišta tehnologije, primarno ograničenje je to da se u osnovi radi o „mašini“ koja generiše tekst, koja još uvek nema načina da utvrdi da li je nešto što je generisano tačno ili ne.

*A ljudi su verujuća bića.

– Da, kad to iskombinuješ sa vrlo ljudskom osobinom da veruje pisanoj reči i tehnologiji, onda potencijalno imamo veliki problem. Plus ta „mašina“ ne zna da ti reši kontrolni iz matematike, pa čemu onda služi? Ovo poslednje je možda i jedan od razloga zašto je početni entuzijazam u širokoj javnosti malo splasnuo. Uz onaj klasični da se ljudi brzo naviknu na sve i vrate svojim starim interesovanjima. Sa druge strane, u okviru stručne javnosti ne mislim da je entuzijazam splasnuo i mislim da možemo očekivati otklanjanje mnogih tehničkih problema u bliskoj budućnosti.

*Zašto se ljudi pomalo već boje veštačke inteligencije? Čitajući naslove po medijima, često je predstavljena u negativnom kontekstu neke neizvesne budućnosti? Postoji li trenutno realna opasnost od razvijanja AI? Da li će da počne da radi neke stvari za koje ga nismo dizajnirali?

– Jedan moj kolega mi je jednom rekao, nešto sa čime se u osnovi slažem. Čini mi se da je ono kako mi sebe kao vrstu definišemo to da smo najpametnije biće na planeti. Mislim da iz toga proizilazi fundamentalni strah od svega što je pametnije od nas, a tu spadaju i vanzemaljci i VI. To ne znači da ne postoji nikakva opasnost od razvijanja VI, ali, da ne postoji i veliki potencijal da nam donese dobro, ne bi je ni razvijali. Kao i kod svake transformativne tehnologije, potrebno je naći pravi balans.

Što se tiče toga da radi stvari za koje ga nismo dizajnirali, to radi praktično svaki tehnički sistem. Ko god je nekad zakucao ekser kombinirkama, zna o čemu pričam. Što je kompleksniji sistem, što obično važi za sisteme koji su dizajnirani da rade mnogo stvari, nekako logično sledi da se može koristiti za više stvari za koje nije dizajniran. Tako da je veći problem trenutno zloupotreba, nego što će sam sistem da radi nešto za šta nije dizajniran. Sa druge strane, kada dizajniramo sistem koji ima za cilj da rešava neki problem kako zna i ume, onda ne treba da se iznenadimo ako ga reši na način na koji nismo očekivali. Reče mi prijatelj da je svetski šampion u šahu pre par godina rekao da mu je šah konačno opet postao zanimljiv kad je počeo da gleda neke od partija koje odigra VI. Jer povlači poteze koji su potpuno van važeće doktrine, a ipak pobedi.

*Utisak je da neki ljudi u svemu pomalo podižu paniku. Blejk Lemojn, softverski inženjer i bivši radnik u Google-u, tvrdi da AI koji je testirao moguće da ima svest, iako još nismo shvatili ni kako svest funkcioniše kod ljudi. Postoji li mogućnost da veštačka inteligencija na bilo koji način manipuliše ljudima?

– Pa mislim da ste nekako sami sebi odgovorili. Ključ svega toga je svest, za koji mi ne znamo šta je, ni kod ljudi, a ni kod životinja, pa je svaka izjava da nešto ima svest vrlo upitna. Kod nas je svest vrlo povezana sa time da imamo određene potrebe i namere. Ne vidim zašto bi takvo nešto postojalo u veštačkom sistemu u neko dogledno vreme, ukoliko mu mi sami to ne prenesemo. Tako da, za sada, veštačka inteligencija ima veliki kapacitet da manipuliše ljudima, ali samo kad joj drugi ljudi kažu da to radi. Setimo se samo Kembridž analitike, a tu se nisu koristili neki jako inteligentni alati, po današnjim standardima.

*Koliko i kako će ChatGPT i slične platforme promeniti internet?

– Meni se čini da su tu dva primarna vektora promena, kako bismo mi to rekli. Sa jedne strane, moći ćeš da komuniciraš sa računarom i pretražuješ internet na potpuno prirodan način, bez potrebe za kucanjem i formulisanjem upita. Sa druge strane, moći ćeš da dobiješ sadržaj u potpunosti prilagođen tebi. Mislim da će prestati da bude normalno da više ljudi pristupa istom sadržaju, već će svako imati svoje viđenje svega onoga na internetu. Za 10 godina, ja se nadam da neću morati uopšte da pristupam internetu, već ću imati svog AI agenta, koji će se baviti time da mi nađe sadržaj koji me zanima, rezerviše mi zimovanje koje mi odgovara itd. Što bi rekli, konačno će svako imati svog DŽarvisa, ne samo Ajronmen.

*Na koji način će se mediji morati menjati s obzirom da mogu biti vrlo lako zloupotrebljeni u ovoj priči?

– To možda nije pitanje za mene, već za sociologe ili medijske stručnjake. Čini mi se da savremeni mediji već imaju znatan potencijal za zloupotrebu, a da je VI u tom pogledu nepristrasna. Mislim da će medijski stručnjaci morati da ovladaju novim alatima, kako bi ostali relevantni, što će se verovatno desiti i u nekim drugim industrijama. A da će razvoj alata za generisanje etički neprihvatljivog sadržaja pratiti i razvoj alata za detekciju takvog sadržaja. Rekao bih da mediji i VI uzajamno pojačavaju potencijal za zloupotrebu VI, pa da se posebna pažnja treba posvetiti regulaciji u tom domenu. Čini mi se da na svetskom nivou postoji razumevanje da postoji potreba za ovim i već se kroz razne inicijative radi na tome.

*DeepFakes se već pokazao kao moćno oružje, uz svet u kome su trenutno teoretičari zavera reklo bi se na vrhuncu, deluje da su njegovi dometi beskrajni. Kako naći način da ograničimo sve opasnosti koje donosi zloupotreba VI? Ili ćemo se kao civilizacija morati dogovoriti da neke stvari jednostavno ne koristimo.

– Nisam siguran da smo se mi kao civilizacija ikad dogovorili da neke stvari ne koristimo. Biramo da to ne radimo, samo kada postoji pretnja da će to dovesti do negativnog ishoda za svakog ko ima sposobnost da koristi takve opasne tehnologije. Zbog toga je važno da se razvoj VI ne ograniči na jednu interesnu grupu, što se po mom mišljenju nije desilo, niti ima bojazni da se to desi, jer SAD i Kina prednjače u ovom domenu. Takva geopolitička situacija ostavlja mogućnost za dogovor na globalnom nivou i postoje razne inicijative na tom planu.

Što se tiče samih DeepFakes, mislim da je to samo demokratizovalo kreiranje lažnog sadržaja u domenu slike, videa i zvuka. Posebno ovog poslednjeg. Mislim da je važno da se značajan trud posveti tome da onaj moj gore spominjani DŽarvis može da spazi da li je nešto stvarno ili ne, čak i ako ja to ne mogu. Ako se to desi, mislim da ćemo sa razvojem AI čak popraviti stanje u globalnom medijskom prostoru. Kao što vam ako trgujete kriptovalutama ne treba više banka da biste se pouzdali u transakciju, neće vam trebati da nešto dođe iz proverenog izvora, da biste utvrdili ne samo da li je veštački izmenjeno ili ne, već i da li je i koliko izvesno da je to što vidite objektivan prikaz činjenica.

Projekti Instituta

– Izdvojio bih rad na sistemima za dizajniranje socijalnih politika saradnjom ljudi i VI (projekat TANGO koji vode naše kolege sa univerziteta u Trentu, a finansiran je od strane EU), na kojem sarađujemo sa Ministarstvom za brigu o porodici i demografiju i dva NVO-a: SHARE fondacijom i A11. Nadamo se da ćemo kroz saradnju sa kolegama iz cele Evrope, razviti načine da se kreiraju bolje socijalne politike zasnovane na podacima. Pored toga, sa kolegama iz Univerzitetskog kliničkog centra Srbije i Kliničkog centra Zemun pokušavamo da primenimo VI kako bismo pomogli dijagnostikovanje retkih bolesti. Što ima potencijal da spase i unapredi život za oko 200 naših sugrađana, a ujedno i smanji troškove njihovog lečenja. Ovaj projekat je podržan od strane japanske kompanije Takeda. Finalno, kolege iz grupe za interakciju čoveka i mašine, rade na još jednom projektu finansiranom od strane EU sa kolegama iz kompanije Bajer, sa ciljem da se tehnologije velikih jezičkim modela (najpoznatiji je naravno GPT) prilagode za rad sa tekstovima iz domena farmacije, ali i da se obezbedi da model generiše pouzdane podatke, što za sada predstavlja veliki izazov za ovakve modele.

Ovaj tekst je nastao u okviru projekta „Borba protiv lažnih vesti“ koji je sufinansiran iz budžeta Republike Srbije, Ministarstva informisanja i telekomunikacija. Stavovi izneti u podržanom medijskom projektu nužno ne izražavaju stavove organa koji je dodelio sredstva.