EU reguliše veštačku inteligenciju: Dokle sme da ide Veliki brat?

Roboti preuzimaju kontrolu, vode rat protiv čovečanstva, i neki očajni naučnik nemoćno gleda kakvog je monstruma stvorio… to je tema mnogo kojeg distopijskog filma. Premda je stvarnost još daleko, Evropska unija je zbog sličnih strahovanja rešila da prvi put reguliše veštačku inteligenciju.

U utorak (6. decembar) je saopšteno da su se članice EU saglasile o opširnim pravilima za upotrebu veštačke inteligencije (VI). Odluka podstiče razvoj VI, ali treba da obezbedi da korišćenje tehnologije bude u skladu sa osnovnim ljudskim i drugim pravima.

„Time je EU na dobrom putu da prva na svetu stvori obavezujući okvir za verodostojnu upotrebu VI“, rekao je nemački ministar pravosuđa Marko Bušman iz redova Liberala. On ipak smatra da još treba raditi na poboljšanjima, pre svega u garantovanju anonimnosti u javnom prostoru i transparentnosti pri upotrebi VI.

Pohvale su stigle i od ministra privrede Roberta Habeka (Zeleni) koji misli da je VI „odlučujuća za konkurentnost EU“.

Pre nego što pravila – trenutno zapisana na 125 stranica – postanu obavezujuća, članice EU treba da pribave saglasnost Evropskog parlamenta.

Zabranjeno „bodovanje“ ljudi

Evropska komisija je zakon predložila još prošle godine, sa idejom da postavi i globalne standarde i uspostavi poverenje između korisnika i VI. Što su veće potencijalne opasnosti od upotrebe VI, to su viši i standardi koji se traže – i kazne u slučaju kršenja.

Tako su se ministri članica EU zaduženi za telekomunikacije saglasili da se VI ne sme koristiti za (pr)ocenjivanje ljudi na osnovu njihovog društvenog ponašanja ili karaktera, ukoliko to može voditi negativnim posledicama.

Upravo se takav sistem bodovanja građana naveliko koristi u Kini, gde su ljudi pod stalnom prismotrom i ocenama algoritma.

EU hoće da reguliše i standarde kod posebno osetljivih sistema VI, recimo onih koji se bave biometrijskim prepoznavanjem, ili snabdevanjem strujom i vodom. Doduše, od svih tih pravila izuzeta je upotreba VI u vojne i čisto istraživačke svrhe.

Veštačkom inteligencijom se smatraju sistemi osposobljeni za samostalno učenje. Softveri obično rade sa velikim količinama podataka iz kojih izvlače zaključke.

Tehnologija se već naveliko primenjuje, od testiranja samohodnih automobila – gde ljudski vozač može da se zavali i ne radi skoro ništa – pa do platformi poput Jutjuba ili Spotifaja koje pomoću VI predlažu korisniku idući video ili pesmu. Ili čet-botova sa kojima mušterije ćaskaju u pokušaju da reše neki problem.

Kritike sa obe strane

Kritičari su vrlo nezadovoljni putem kojim ide EU, tvrdeći da je previše otvorenih pitanja. Recimo, udruženje potrošača u EU Beuc saopštilo je da je nejasno da li i privatne firme smeju da koriste softvere za prepoznavanje lica na javnim mestima.

I holandska evroposlanica Zelenih Kim van Sparentak napisala je na Tviteru da su nova pravila „puna rupa“.

Borci za privatnost i zaštitu podataka posebno su skeptični zbog težnje sve više država da drže građane pod stalnom prismotrom nebrojenim kamerama i softverima za prepoznavanje lica. Time se, kažu kritičari, od društava pravi Veliki brat.

Američki trust mozgova Karnegi je još 2019. zaključio da barem 75 od 176 ispitanih država koristi VI na ovaj način.

Sa druge strane, kako prenosi list Handelsblat, firme iz oblasti tehnologije i njihova udruženja kritikuju EU jer namerava da previše reguliše oblast i tako, kažu, uguši preduzetnički duh. Digitalno udruženje Bitkom je kritikovala da se previše fokusira na rizike, a premalo na dobiti.

Evropska privreda strahuje da će ih počistiti američka i kineska konkurencija, koje neće imati ovako stroga pravila da poštuju.