Sem Altman, čovek koji je stvorio ChatGPT: „Moramo da budemo veoma oprezni“

„Ovde moramo da budemo veoma oprezni“, rekao je Sem Altman, izvršni direktor kompanije OpenAI, u intervjuu za ABC News i dodao: „Mislim da bi ljudi trebalo da budu srećni što i nas malo plaši ova tehnologija.“

On smatra da je potrebno i da regulatori i javnost što je moguće više budu uključeni u uvođenje ChatGPT tehnologije, jer samo sa dobijanjem povratnih informacija od ljudi je moguće izbeći potencijalne negativne posledice koje bi tehnologija mogla imati na čovečanstvo. Altman je doda i da je u „redovnom kontaktu“ sa zvaničnicima vlade.

ChatGPT je jezički model veštačke inteligencije, a GPT je skraćenica za Generative Pre-trained Transformer.

Aplikacija je objavljena pre par meseci, a već ima preko 100 miliona aktivnih korisnika.

Iako „nije savršen“, po Altmanu, poslednji model GPT-4 uspeo je da položi pravosudni ispit i ostvari visok rezultat. Takođe je postigao skoro savršen rezultat na SAT testu iz matematike (koji polažu maturanti) i sada može veoma kompetentno da piše kompjuterski kod na većini programskih jezika.

GPT-4 je samo jedan korak ka cilju OpenAI-a da na kraju stvori tzv. opštu veštačku inteligenciju, kada ova tehnologija postane pametnija od ljudi.

Iako slavi uspeh svog proizvoda, Altman je priznao da postoje moguće opasne implementacije tehnologije koje ga drže na oprezu.

„Posebno sam zabrinut da bi ovi modeli mogli da se koriste za dezinformacije velikih razmera“, rekao je Altman i dodao: „Sada kada postaju sve bolji u pisanju kompjuterskog koda, [oni] bi mogli da se koriste za ofanzivne sajber napade.“

S druge strane, on ne veruje u naučnofantastični scenario u kome će mašine dobiti svest i odlučiti da unište čovečanstvo.

„Model samo radi kad mu mi damo instrukcije. Ovo je alat koji je u velikoj meri pod kontrolom ljudi“, izjavio je Altman.

Međutim, rekao je da se plaši koji bi ljudi mogli da iskoriste tehnologije. „Biće i drugih ljudi koji ne postavljaju neke od bezbednosnih ograničenja koje smo mi postavili. Društvo, čini mi se, ima ograničeno vreme da smisli kako da reaguje na to, kako da to reguliše, kako da se nosi sa tim.“

Zabrinutost zbog dezinformacija

Prema kompaniji OpenAI, GPT-4 ima ogromna poboljšanja u odnosu na prethodnu iteraciju, uključujući mogućnost razumevanja slika kao ulaznih podataka. Demo prikazuje GTP-4 koji opisuje šta se nalazi u nečijem frižideru, rešava zagonetke, pa čak i objašnjava značenje internet mimova.

Ova funkcija je trenutno dostupna samo malom broju korisnika, uključujući grupu korisnika sa oštećenim vidom koji su deo njenog beta testiranja.

Ali konzistentan problem sa modelima jezika veštačke inteligencije kao što je ChatGPT, prema Altmanu, su dezinformacije. Program može korisnicima dati činjenično netačne informacije.

„Najviše pokušavam da upozorim ljude je ono što mi zovemo ‘problem halucinacija’. To se dešava kada model samouvereno iznosi stvari koje su u potpunosti izmišljene“, rekao je Altman.

Model ima ovaj problem, delimično zato što koristi deduktivno zaključivanje umesto pamćenja, prema navodima iz OpenAI-a.

„Pravi način razmišljanja o modelima koje kreiramo je mehanizam za rasuđivanje, a ne baza podataka“, objasnio je Altman i dodao: „Oni takođe mogu da deluju kao baza podataka o činjenicama, ali to nije ono što je posebno kod njih – ono što želimo da urade je nešto što je bliže sposobnosti rasuđivanja, a ne pamćenja.“

Altman i njegov tim se nadaju da će „model vremenom postati ovaj mehanizam za razmišljanje“, rekao je on, i na kraju će moći da koristi internet i sopstveno deduktivno zaključivanje da odvoji činjenice od fikcije. GPT-4 ima 40% veće šanse da proizvede tačne informacije od njegove prethodne verzije, prema navodima kompanije OpenAI. Ipak, Altman je rekao da je oslanjanje na sistem kao primarni izvor tačnih informacija „nešto za šta ne bi trebalo da ga koristite“ i savetujemo korisnicima da još jednom provere rezultate programa.

Mere predostrožnosti protiv zloupotreba

Vrsta informacija koje ChatGPT i drugi jezički modeli veštačke inteligencije sadrže takođe izaziva zabrinutost. Na primer, da li ChatGPT može reći korisniku kako da napravi bombu. Odgovor je ne, prema Altmanu, zbog bezbednosnih mera kodiranih u ChatGPT.

„Ono što me brine je da nećemo biti jedini kreator ove tehnologije. Biće i drugih ljudi koji ne postavljaju neka od bezbednosnih ograničenja koje mi postavljamo na aplikaciju“, rekao je Altman.

Prema Altmanu, postoji nekoliko rešenja i zaštitnih mera za sve ove potencijalne opasnosti sa veštačkom inteligencijom. Jedno od njih je da pustite društvo da se poigrava sa ChatGPT-om dok su ulozi mali i učite iz toga kako ga ljudi koriste.

Kako javnost nastavlja da testira OpenAI aplikacije, postaće lakše identifikovati gde su potrebne dodatne mere zaštite.

„Ako bismo ovo samo razvili u tajnosti – u našoj maloj laboratoriji ovde – i napravili GPT-7 i onda ga odjednom izbacili na svet… Mislim da je to situacija sa mnogo više negativnih strana,“ rekao je Altman.

Što se tiče nezakonitog ili moralno nepoželjnog sadržaja, Altman je rekao da imaju tim kreatora politike u OpenAI-u koji odlučuje koje informacije idu u ChatGPT i šta ChatGPT sme da deli sa korisnicima.

„[Razgovaramo] sa raznim stručnjacima za politiku i bezbednost, dobijamo revizije sistema da pokušamo da rešimo ove probleme i objavimo nešto za šta mislimo da je bezbedno i dobro“, dodao je Altman.

Hoće li veštačka inteligencija zameniti neke profesije?

Među potencijalno destabilizujućim stranama ove tehnologije je i ukidanje mnogih radnih mesta. Altman kaže da će tehnologija verovatno zameniti neke poslove u bliskoj budućnosti i brine se koliko brzo bi se to moglo dogoditi.

„Mislim da je tokom nekoliko generacija čovečanstvo dokazalo da može odlično da se prilagodi velikim tehnološkim promenama“, rekao je Altman i dodao: „Ali ako se ovo desi za jednocifreni broj godina, bio bih veoma zabrinut.“

Ali on ohrabruje ljude da gledaju na ChatGPT više kao na alat, a ne kao zamenu za ljude. Dodao je da je „ljudska kreativnost neograničena, a mi uvek nalazimo nove poslove. Pronalazimo nove stvari koje treba da radimo.“

Prema Altmanu, načini na koji se ChatGPT može koristiti kao alat za čovečanstvo nadmašuje njegove rizike.

„Svi možemo imati neverovatnog edukatora u džepu koji je prilagođen nama, koji nam pomaže da učimo. Možemo dobiti medicinske savete, kada nam trebaju“,naveo je Altman neke od potencijalnih upotreba ove tehnologije.