Slavoj Žižek: Kako čet botovi treba da reaguju kada se koriste agresivne, seksističke ili rasističke primedbe

Ali kapacitet takvih „četbotova“ je dramatično povećan poslednjih meseci, što je dovelo do panike u mnogim krugovima.

Mnogo je rečeno o četbotovima koji najavljuju kraj tradicionalnog studentskog eseja.

Ali pitanje koje zahteva veću pažnju je kako čet-botovi treba da reaguju kada ljudski sagovornici koriste agresivne, seksističke ili rasističke primedbe da bi bot podstakli da zauzvrat iznese svoje lažne fantazije.

Da li sisitem veštačke inteligencije (AI) treba da bude programiran da odgovara na istom nivou kao i pitanja koja se postavljaju?

Ako odlučimo da je nekakva vrsta uredbe u redu, onda moramo da odredimo dokle cenzura treba da ide.

Da li će politički stavovi koje neke kohorte smatraju „uvredljivim“ biti zabranjene?

Šta je sa izrazima solidarnosti sa Palestincima Zapadne obale, ili tvrdnjom da je Izrael država aparthejda (što je bivši američki predsednik Džimi Karter svojevremeno stavio u naslov knjige)?

Hoće li oni biti blokirani kao „antisemitski“?

Problem se tu ne završava.

Kao što upozorava umetnik i pisac Džejms Bridl, novi AI su „zasnovani na sveobuhvatnom prisvajanju postojeće kulture“, a uverenje da su „zapravo obrazovani ili smisleni je aktivno opasno“.

Stoga, takođe treba da budemo veoma oprezni prema novim generatorima AI slika.

„U svom pokušaju da razumeju i repliciraju celokupnu ljudsku vizuelnu kulturu“, primećuje Bridl, „oni čini se da su ponovo kreirali i naše najmračnije strahove. Možda je ovo samo znak da su ovi sistemi zaista veoma dobri u oponašanju ljudske svesti, sve do užasa koji vreba u dubinama postojanja: naših strahova od prljavštine, smrti i korupcije“.

Ali koliko su dobri novi AI u približavanju ljudske svesti?

Zamislite bar koji je nedavno reklamirao piće sa sledećim terminima: „Kupite jedno pivo po ceni dva i dobijete drugo pivo potpuno besplatno!“ Za svakog čoveka, ovo je očigledno šala.

Preformulisan je klasični specijal „kupi jedan, uzmi jedan“.

To je izraz cinizma koji će se ceniti kao komična iskrenost, sve u cilju povećanja prodaje.

Da li bi čat-bot shvatio bilo šta od ovoga?

„J….i“ predstavlja sličan problem.

Iako označava nešto u čemu većina ljudi uživa (kopulacija), često dobija i negativnu valencu („S….ni smo!“ „J..i se!“).

Jezik i stvarnost su neuredni.

Da li je veštačka inteligencija spremna da uoči takve razlike?

U svom eseju iz 1805. „O postepenom formiranju misli u procesu govora“ (prvi put objavljen posthumno 1878.), nemački pesnik Hajnrih fon Klajst preokreće uobičajenu mudrost da ne treba otvarati usta da bi govorili ako nemamo jasnu ideju o tome šta reći: „Ako je, dakle, misao izražena na mutan način, onda uopšte ne sledi da je ta misao zamišljena na konfuzan način.

Naprotiv, sasvim je moguće da su ideje koje su izražene na najzbunjujući način one koje su najjasnije osmišljene.”

Odnos između jezika i misli je izuzetno komplikovan.

U odlomku iz jednog od Staljinovih govora s početka 1930-ih, on predlaže radikalne mere za „otkrivanje i borbu bez milosti čak i onih koji se protive kolektivizaciji samo u svojim mislima – da, mislim ovo, treba se boriti čak i protiv misli ljudi“.

Može se sa sigurnošću pretpostaviti da ovaj odlomak nije unapred pripremljen.

Nakon što je u trenutku uhvaćen, Staljin je odmah postao svestan onoga što je upravo rekao.

Ali umesto da odstupi, odlučio je da ostane pri svojoj hiperboli.

Kao što je Žak Lakan kasnije rekao, ovo je bio slučaj istine koja je izašla iznenadno kroz čin izricanja.

Luj Altiser je identifikovao sličan fenomen u interakciji između nagrade i iznenađenja.

Neko ko iznenada shvati ideju biće iznenađen onim što je postigla. Opet, može li bilo koji čatbot da uradi ovo?

Problem nije u tome što su čatbotovi glupi već što nisu dovoljno „glupi“.

Nije da su naivni (nedostaju ironija i refleksivnost); to je da nisu dovoljno naivni (nedostaju kada naivnost maskira pronicljivost).

Prava opasnost, dakle, nije u tome što će ljudi pomešati čatbot sa stvarnom osobom; to je da će komunikacija sa četbotovima naterati stvarne osobe da pričaju kao četbotovi – propuštajući sve nijanse i ironije, opsesivno govoreći samo ono što neko misli da želi da kaže.

Kada sam bio mlađi, prijatelj je otišao kod psihoterapeuta na lečenje nakon traumatičnog iskustva.

Ideja ovog prijatelja o tome šta takvi analitičari očekuju od svojih pacijenata bila je kliše, pa je svoju prvu sesiju proveo iznoseći lažne „slobodne asocijacije“ o tome kako mrzi svog oca i želi da umre.

Reakcija psihoterapeuta je bila genijalna: zauzeo je naivan „prefrojdovski“ stav i zamerio mom prijatelju što ne poštuje svog oca („Kako možeš tako da pričaš o osobi koja te je učinila takvim kakav si?“).

Ova lažna naivnost poslala je jasnu poruku: ne prihvatam vašu lažnu „asocijacija“.

Da li bi čatbot mogao da shvati ovaj podtekst?

Najverovatnije ne bi, jer je to poput Rouana Vilijamsa u tumačenju princa Miškina u Idiotu Dostojevskog.

Prema standardnom čitanju, Miškin, „idiot“, je svetac, „pozitivno dobar i lep čovek“ koji je doveden u izolovano ludilo grubim brutalnostima i strastima stvarnog sveta.

Ali u Vilijamsovom radikalnom ponovnom čitanju, Miškin predstavlja oči oluje: iako dobar i svetac, on je taj koji izaziva pustoš i smrt kojoj prisustvuje, zahvaljujući svojoj ulozi u složenoj mreži odnosa oko sebe .

Ne radi se samo o tome da je Miškin naivan prostak.

Radi se o tome da ga njegova posebna vrsta gluposti ostavlja nesvesnim pogubnih efekata na druge.

On je ravna osoba koja bukvalno priča kao čatbot.

Njegova „dobrota“ je u tome što, poput četbota, reaguje na izazove bez ironije, nudeći floskule lišene ikakve refleksivnosti, shvatajući sve doslovno i oslanjajući se na mentalno auto-kompletiranje, a ne na autentično formiranje ideja.

Iz tog razloga, novi čatbotovi će se odlično slagati sa ideolozima svih rasa, od današnje „budne“ mase do „MAGA“ nacionalista koji više vole da spavaju.

Autor je profesor sociologije i filozofije na Univerzitetu u Ljubljani i kao međunarodni direktor Birkbeck Instituta za humanističke nauke Univerziteta u Londonu. Njegova najnovija knjiga nosi naziv: „Heaven in Disorder“ (OR Books, 2021).

Danas ima ekluzivno pravo objavljivanja u Srbiji

Copyright: Project Syndicate, 2023.
www.project-syndicate.org