UN pozivaju na moratorijum za sisteme veštačke inteligencije

„Tehnologije veštačke inteligencije mogu imati negativne efekte, čak katastrofalne ako se koriste a da se nedovoljno uzima u obzir način na koji one utiču na ljudska prava“, rekla je Mišel Bašle visoka komesarka UN za ljudska prava.

Ona je pozvala da se proceni rizik različitih sistema koji se oslanjaju na veštačku inteligenciju za pravo na privatni život ili slobodu kretanja i izražavanja i zatim da se zabrane ili da se snažno regulišu oni koji predstavljaju najveću opasnost.

Ali dok se čeka da se te procene završe države treba da uvedu moratorijum na tehnologije koje potencijalno predstavljaju veliki rizik, rekla je Bašle, bivša predsednica Čilea, prilikom predstavljanja novog izveštaja svoje službe posvećenog toj temi.

Izveštaj napravljen na zahtev Saveta UN za ljudska prava razmatrao je kako su te tehnologije često upotrebljene a da prethodno nije propisno procenjeno kako funkcionišu ni kakav uticaj će imati.

Loše funkcionisanje veštačke inteligencije sprečilo je ljude da dobiju socijalnu pomoć, nađu posao ili je dovelo do hapšenja nevinih ljudi na osnovu sistema prepoznavanja lica koji nisu dobro urađeni i ne mogu ispravno da prepoznaju osobe sa afričkim crtama na primer.

„Više je nego stvaran rizik od diskriminacije vezan za odluke zasnovane na veštačkoj inteligenciji – radi se o odlukama koje mogu menjati, stigmatizovati ili naškoditi jednom ljudskom životu,“ rekla je Bašle.

U izveštaju se navodi da se veštačla inteligacija razvija na osnovu ogromnih baza podataka čije sastavljanje je često vrlo netransparentno. Te baze podataka bi mogle da budu same loše sastavljene, zastarele i da prema tome doprinose kršenju ljudskih prava.

U izveštaju se posebno naglašava sve češća upotreba sistema zasnovanih na veštačku inteligenciju od strane snaga reda.