Upozorenje vrhunskog fizičara: Veštačkoj inteligenciji ne smeju da se omoguće tri stvari. Dopustili smo joj sve tri

Otvoreno pismo za odlaganje razvoja veštačke inteligencije

U podkastu Leksa Fridmana, informatičara i istraživača veštačke inteligencije na Massachusetts Institute of Technology (MIT), Maks Erik Tegmark, fizičar, kosmolog i istraživač mašinskog učenja, profesor na MIT-ju i predsednik Instituta Future of Life, objasnio je, između ostalog, zašto je zabrinut sadašnjim načinom razvoja veštačke inteligencije i zašto je sa grupom naučnika, mislilaca i stručnjaka za veštačku inteligenciju pokrenuo otvoreno pismo kojim traže šestomesečnu obustavu daljeg unapređivanja sistema moćnijih nego što je GPT-4.

U pismu, koje osporava postojeći pristup u stilu – prvo izgradimo brod, a posle ćemo ga popravljati – i upozorava da važnu trku u razvoju veštačke inteligencije vode čelnici kompanija koji nisu izabrani predstavnici ljudi, odnosno biračkog tela, već čelnici tehnoloških kompanija, autori postavljaju četiri pitanja:

• Da li treba da dopustimo mašinama da preplave naše informacione kanale propagandom i neistinom?
• Da li treba da automatizujemo sve poslove, uključujući i one koji ispunjavaju ljudske živote smislom?
• Da li da razvijamo neljudske umove koji bi na kraju mogli da nas brojčano nadmaše, nadmudre, učine zastarelim i zamene?
• Da li treba da rizikujemo gubitak kontrole nad svojom civilizacijom?

Pismo je do sada potpisalo više od 27.500 ljudi, među kojima su istoričar i autor nekoliko bestselera kao što je Sapiens Yuval Noa Harari, suosnivač kompanije Apple Stiv Voznijak, suosnivač kompanije Skype Jan Talin, te brojni istraživači veštačke inteligencije kao što su Stjuart Rasel, Jošua Benđo, Gari Markus i Emad Mostak.

Teško je očekivati da bi pismo samo po sebi moglo da zaustavi ili uspori kompanije, kao što su Google i Microsoft, no njegove poruke možda bi mogle do dopru do političara koji bi mogli nešto da preduzmu u zakonodavnom smislu.

Tegmark već godinama upozorava na veštačku inteligenciju

U ovom kontekstu zanimljivo je istaći da Tegmark nije novajlija u razvoju računarstva. On je još kao srednjoškolac, zajedno sa svojim prijateljem, kreirao i prodavao program za obradu teksta napisan u čistom mašinskom kodu i 3D igru sličnu Tetrisu pod nazivom Frac. Danas je na spomenutoj visokoškolskoj ustanovi fokusiran na povezivanje fizike i mašinskog učenja, odnosno na upotrebu veštačke inteligencije za potrebe fizike, i obratno.

Institut Future of Life, koji danas vodi, objavio je još 2015. sličnu peticiju za moratorijum na razvoj autonomne oružane tehnologije. Nju je uz Tegmarka tada potpisalo mnoštvo poznatih ličnosti, uključujući Stivena Hokinga, Elona Maska, Stjuarta Rasela, Noama Čomskog, Stiva Voznijaka, Martina Risa, Demisa Hasabisa, Raja Kurcvejla i mnoge druge.

„Mi ćemo stvoriti vanzemaljsku inteligenciju“

U ovom tekstu prenećemo slobodan prevod nekih od najvažnijih delova razgovora Fridmana i Tegmarka, koji do danas ima preko 800.000 pregleda.

U uvodnom delu gotovo trosatnog razgovora Tegmark kaže kako, za razliku od brojnih drugih naučnika, veruje da je tehnološki napredan život, kao što je ljudski na Zemlji, izuzetak u vidljivom svemiru.

„Ako je to istina, to nam nameće veliku odgovornost da ne zabrljamo… Mi smo čuvari ove iskre napredne svesti koja se, ako je negujemo i pomažemo joj da raste, može da se proširi po svemiru i mi možemo da imamo zadivljujuću budućnost“, rekao je Tegmark.

„S druge strane, ako smo bezobzirni u razvoju tehnologije, onda ćemo je iz gluposti ili u sukobima ugasiti. Zapravo, mislim da će nas strana inteligencija (eng. alien intelligence) posetiti vrlo skoro. No, to je inteligencija koju ćemo sami izgraditi, a ne vanzemaljska“, dodao je istakavši da će ta veštačka inteligencija biti egzotičnija od inteligencije najegzotičnijih stvorenja na Zemlji jer neće biti stvorena kroz uobičajeno Darvinovo nadmetanje, u kojoj su važne stvari kao što su samoočuvanje, strah od smrti i sl.

„Nama je teško i da zamislimo kako bi izgledala inteligencija koja se ne boji smrti“

Upozorio je da će se ona razvijati mnogo brže nego što to omogućuje evolucija, što podrazumeva veliku odgovornost da umovi koje ćemo stvoriti budu vredni stvaranja, da dele naše vrednosti i budu dobri za čovečanstvo i život uopšte.

Objasnio je da je nama teško i da zamislimo kako bi izgledala inteligencija koja se ne boji smrti, koja u trenutku može da nauči neki jezik, poput švedskog, ili može iz memorije da izbriše sve doživljaje koji joj se ne sviđaju.

Upozorio je da je važno biti svestan i zamisliti se nad očiglednom činjenicom da je prostor za razvoj veštačke inteligencije vrlo širok i da je vrlo opasno pretpostaviti da će ona na bilo koji način biti slična našoj.

„Upravo stvaramo život 3.0″

Govoreći o svojoj knjizi Život 3.0, Tegmark je objasnio da život 1.0 podrazumeva oblike poput bakterija koji ne mogu puno da nauče tokom svog života. Život 2.0 je nalik na naš i život životinja s mozgom koje mogu puno da nauče. Život 3.0, koji još nije stvoren, podrazumeva život koji neće moći da promeni samo svoj softver, koji mi možemo da menjamo, već i hardver.

„To je ono prema čemu se ubrzano krećemo. Kompanije koje pokušavaju da osmisle veštačku opštu inteligenciju razvijaju život 3.0. Tu inteligenciju moći ćete da smestite u nešto što nema nikakvih bioloških osnova“, rekao je misleći na robote.

„Nalazimo se na prekretnici čovečanstva“

Trenutnu situaciju u razvoju veštačke inteligencije Tegmark je uporedio s radnjom filma Ne gledaj gore, u kojem mnogi ljudi ne veruju u ozbiljnost pretnje i ne preduzimaju ništa razumno premda imaju informacije da ogroman asteroid juri prema Zemlji.

Upozorio je da čovečanstvo upravo u ovom trenutku samo gradi takav asteroid i da gotovo niko o tome u javnosti ozbiljno ne raspravlja.

„Mnogi političari to nemaju nigde na svom radaru i misle da je to nešto što će se možda dogoditi za 100 godina ili više. No, mi se upravo sada nalazimo na prekretnici. To je najvažnija prekretnica do koje je čovečanstvo došlo u svojih stotinak hiljada godina postojanja na Zemlji. Mi u suštini gradimo novu vrstu koja je pametnija od nas“, upozorava.

„A dolazak veštačke opšte inteligencije koja može da obavlja sve poslove jednako dobro kao mi, i verovatno uskoro nakon toga superinteligencije koja će daleko nadmašiti naše kognitivne sposobnosti, biće ili najbolja stvar koja se ikad dogodila čovečanstvu ili najgora. Snažno sam uveren da tu ne postoji sredina“, tumači Tegmark.

Trka između razvoja veštačke inteligencije i razvoja mudrosti

Govoreći o otvorenom pismu spomenutom u uvodu, objasnio je da je važno da se dobije trka između razvoja veštačke inteligencije i naših mogućnosti da upravljamo njome. Podsetio je da su do sada brojni stručnjaci s kojima deli mišljenje uglavnom smatrali da ne treba usporavati razvoj AI-a, već da umesto toga treba pokušati da se ubrza razvoj mudrosti i preduzeti sve tehničke stvari kako bi se osiguralo da moćna AI radi upravo ono što želimo da radi i da se društvo prilagodi prilikama i regulacijama kako bi se AI primenila na dobar način.

„Nažalost, to nije urodilo plodom. Napredak tehničkih sposobnosti veštačke inteligencije odvio se mnogo brže nego što su to mislili mnogi ljudi kada smo počeli da upozoravamo 2014. Sa druge strane, pridobijanje političara i drugih da postave načela koja će sve to voditi u pravom smeru išlo je sporije od očekivanog“, rekao je.

„AI je uzletila neočekivano brzo, poput aviona“

Uzlet u razvoju veštačke inteligencije uporedio je sa skokom u razvoju letećih mašina.

„Ljudi su dugo razmišljali kako ptice lete, a to se pokazalo vrlo zahtevno. Da li ste videli na TED Talk-u veštačku pticu kako leti? Bilo je potrebno 100 godina više za nastanak veštačke ptice koja leti nego što je trebalo braći Rajt da da izgrade prvi avion, koji se pokazao mnogo lakšim rešenjem za letenje. Evolucija je odabrala složeniji način jer je imala vezane ruke; mogla je da izgradi samo mašinu koja je sama mogla da se sastavi. Braća Rajt nisu morala da vode računa o tome…

To je upravo ono što se sada zbiva s velikim jezičnim modelima. Mozak je neverovatno složen. Mnogi ljudi su pogrešili misleći da treba da otkrijemo kako mozak funkcioniše pre nego što izgradimo AI mašinu. Možete da napravite izuzetno jednostavan računarski sistem koji se zove transformerska mreža i istrenirate ga da radi nešto neverovatno glupo – da čita ogromnu količinu teksta i pokušava da predvidi sledeću reč“, navodi.

„A pokazalo se da ako samo uložite tonu računarske moći i tonu podataka, postaćete zastrašujuće dobar kao GPT-4, kojim se igram od kada je objavljen. Još uvek postoje neke rasprave da li može da nas dovede sve do potpunog ljudskog nivoa ili ne“, pojasnio je.

Da li GPT razmišlja?

Tegmark kaže da je istovremeno oduševljen i užasnut GPT-jem.

„On može prilično dobro rasuđuje i radi mnoge stvari za koje sam shvatio da čak ni sam ne bih mogao tako dobro. Takođe, to radi mnogo brže od nas. Osim toga, istovremeno dobro uslužuje ogroman broj ljudi. S druge strane, ne može tako dobro razmišlja kao što ljudi mogu u nekim zadacima. Tu očigledno postoje ograničenja u njegovom sklopu.

Mi u svojim glavama imamo ono što se na jeziku gikova zove rekurentna neuronska mreža. U njoj postoje petlje. Informacije idu od jednog neurona do drugog i trećeg i zatim nazad do prvog. Tako možete o nečemu da promišljate i samopromišljate. Veliki jezični modeli poput GPT-4 to ne mogu. To su takozvani transformeri. Oni su kao jednosmerna ulica informacija“, navodi Tegmark.

„Lakše je izgraditi inteligenciju blisku ljudskoj nego što smo to mislili“

„Stoga oni mogu da funkcionišu logički do određene dubine. Vi zbog toga možete da osmislite probleme koje oni ne mogu da reše. Međutim, činjenica da mogu da rade zadivljujuće stvari već s tako neverovatno jednostavnim sklopom je prilično zapanjujuća.

Mi u mojoj laboratoriji na MIT-ju posmatramo iznutra te velike jezične modele kako bismo otkrili kako funkcionišu, što je fokus našeg trenutnog istraživanja. To je nešto kao veštačka neuronauka. Tu iznova i iznova vidimo, o tome su objavljeni brojni radovi, da je to neverovatno glup način za obavljanje stvari. I odmah vidimo kako bi to moglo da se unaprediti“, ističe fizičar.

„Takva postavka nikako neće sprečiti dobre inženjere da pronađu nova rešenja i naprednija rešenja. Ukratko, pokazalo se da je mnogo lakše izgraditi inteligenciju blisku ljudskoj nego što smo mislili. Stoga se vreme koje imamo da se saberemo skratilo“, rekao je Tegmark.

Smatra da bi mali koraci u promeni sklopa na kome se zasnivaju jezični modeli mogli da dovedu do značajno pametnijih sistema.

„Budući da je toliko toga sada otvoreno, puno pametnih ljudi može da istražuje i pokušava da napravi male korake u poboljšanju, tako da to postaje neka vrsta kolektivne trke u kojoj će mnogi misliti: ‘Ako ja ne napravim taj korak, drugi će'“, kaže Tegmark.

„Trku u razvoju veštačke inteligencije vodi monstrum Moloh“

Vrhunski fizičar tumači da je taj pritisak ključan razlog zbog kojeg su odlučili da zatraže pauziranje u treniranju sistema koji su moćniji od GPT-4 na šest meseci.

„Treba dati priliku svim laboratorijama da se malo koordiniraju po pitanju sigurnosti i dati priliku društvu da se prilagodi i ponudi prave podsticaje. Intervjuisali ste te ljude iz raznih laboratorija i znate da su to dobri ljudi, idealistični ljudi koji to rade pre svega zato što veruju da AI ima nesaglediv potencijal da pomogne čovečanstvu. No, oni su istovremeno u zamci tog užasnog nadmetanja“, kaže Tegmark.

Tegmark tu trku ilustuje pozivajući se na esej Skota Aleksandera o pesmi američkog pesnika Alena Ginzberga o Molohu, monstrumu teorije igara, koji ljude zarobljava u igri u kojoj su na kraju svi gubitnici.

„Zla stvar u vezi s tim monstrumom je to što se uprkos tome što svi znaju i razumeju šta se događa, niko ne uspeva da se izvuče iz trke. Najveći dio loših stvari koje mi kao ljudi radimo uzrokuje Moloh“, kaže.

Kao primer delovanja Moloha navodi pritisak koji savremena tehnologija obrade fotografija sa svim mogućim filterima stvara na influenserke, što je u jednom od ranijih podkasta s Leksom Fridmanom adresirala Liv Bori, britanska naučna komunikatorka, televizijska voditeljka i prvakinja u pokeru.

„Moloh je posvuda“

„U početku ih niko nije koristio. Ljudi su videli žene onakve kakve jesu. Zatim su neke počele da ih koriste. A kada su počele da ih koriste i postajale sve više plastično-fantastične, onda su one koje ih nisu koristile počele da uviđaju da, ako žele da zadrže svoj udeo na tržištu, i one moraju da počnu da ih koriste. Tako dolazimo do situacije u kojoj ih sve koriste, tako da nijedna nema udeo na tržištu manji nego što je imala pre“, pojašnjava.

„Dakle, sve su izgubile, a nijedna nije dobila i sve moraju da budu sve više plastično-fantastične. Sada se niko više ne može vratiti na stari način, jer je postalo previše skupo. Moloh je posvuda“, tumači Tegmark napominjući da on nije novi pridošlica na sceni.

„Mi, ljudi, razvili smo brojne mehanizme saradnje kako bismo se borili protiv Moloha. Sovjetski Savez i Sjedinjene Države potpisali su brojne sporazume o kontroli naoružanja protiv Moloha koji pokušava da ih naterati na nepotrebnu, rizičnu trku u nuklearnom naoružanju itd. A to je upravo ono što se sada zbiva u razvoju veštačke inteligencije. Ovaj put upletena je i geopolitika, ali je uglavnom reč o novcu jer postoji ogroman komercijalni pritisak. Kada bi bilo koji od predvodnika tih velikih kompanija koje razvijaju AI odlučio da napravi pauzu, našao bi se pod ogromnim pritiskom deoničara i drugih“, navodi Tegmark.

Ovde ćemo stati sa prenošenjem onoga što je sagovornik izgovorio u ovom gostovanju, ali vam predlažemo da poslušate podkast do kraja.

Izvor: index.hr