Veštačka inteligencija može da uzrokuje, ali i zaštiti osobe s invaliditetom od diskriminacije

Ovaj tekst je dostupan i u audio formi koju možete aktivirati klikom na audio sadržaj ispod:

Čuveno pitanje „šta je starije: kokoška ili jajeˮ u eri nove tehnologije moglo bi da glasi „ko ima više etike: mašina ili čovekˮ. Tehnologiju koja je zasnovana na veštačkoj inteligenciji razvija čovek. Dakle, nije lišena njegovih osobina. Mašina uči, pa tako može da nauči i da diskriminiše. Da to čini i da se nešto mora preduzeti – sve je češća konstatacija na globalnom nivou.

„Veštačka inteligencija olakšava mnoge stvari, nažalost i diskriminacijuˮ, bile su reči poverenice nemačke vlade za borbu protiv diskriminacije Ferde Ataman pre samo godinu dana. Predstavljajući izveštaj stručnjaka o ovom problemu 2023. godine, objasnila je da ukoliko softveru prepustimo da odlučuje kome će dodeliti socijalnu pomoć ili kredit, odluke bi mogle biti zasnovane na stereotipima i predrasudama. Ugroženih kategorija je mnogo, a među njima jesu i osobe sa invaliditetom.

Upravo zato se zakon, usvojen u Njujorku 2023. godine, našao na meti kritika. Zakon koji propisuje da je potrebno da kompanije, koje prilikom odluke o zapošljavanju koriste veštačku inteligenciju, povremeno izvrše procenu pristrasnosti – po polu, rasi, etničkoj pripadnosti – propustio je da decidno zaštiti osobe sa invaliditetom. U Srbiji za sada nema sličnih primera, ali urednica Portala o invalidnosti i programska menadžerka Organizacije za podršku ženama s invaliditetom „Iz kruga Vojvodineˮ Veronika Mitro napominje da nije nemoguće očekivati da država prenoseći rešenja iz drugih država „replicira iste greškeˮ.

„Najčešće se previđa potencijal i postignuća osoba sa invaliditetom, a to je upravo detalj koji je potrebno staviti u fokus u razvoju veštačke inteligencije koja je u funkciji svih ljudi na jednakim osnovama. Veštačka inteligencija ima potencijal da značajno unapredi kvalitet života osoba sa invaliditetom, kako širom sveta, tako i u Srbiji, ako se ne zaboravi na postojanje i potrebe osobe sa invaliditetom, kao i na činjenicu da su osobe sa invaliditetom jedna heterogena grupaˮ, kaže Mitro.

Iz sopstvenog, i iskustva žena iz organizacije „Iz kruga Vojvodineˮ, Mitro zapaža da su osobe sa invaliditetom, ipak, više diskriminisane od ljudi nego od veštačke inteligencije. Ona kao jedan od potencijalnih razloga da se osobe sa invaliditetom osećaju isključeno navodi to što su asistivne tehnologije koje koriste veštačku inteligenciju skupe. Dodaje da čak i besplatnim alatima koji zavise od interneta može biti otežan pristup onima koji žive u ruralnim delovima sa lošom digitalnom pokrivenošću.

„Ili smo najčešće na granici siromaštva i možemo priuštiti samo jeftine telefone i računarsku opremu, i često ne govorimo engleski ili svetske jezike a na našem ne postoji podrška za besplatne softvere. A možda i zato što, osim što imamo ograničeno znanje o savremenim tehnologijama i mogućnostima koje nudi veštačka inteligencija, najčešće smo i digitalno nepismeneˮ, opisuje Mitro šta sve veštačku inteligenciju čini nepristupačnom.

Nepristupačnost VI tehnologije – i to je diskriminacija

Osobe sa oštećenjem vida uz pomoć pametnog uređaja na štapu za kretanje, koji prepoznaje prepreke u okruženju, mogu bezbedno da prelaze ulicu. Osobama sa oštećenjem sluha olakšana je komunikacija jer postoje pametne naočare koje nečiji govor pretvaraju u tekst. Osobe sa fizičkim invaliditetom uz pomoć svog glasa mogu da upravljaju računarom.

Ako ovakvi alati koji olakšavaju život osobama sa invaliditetom nisu dostupni svima, onda to može biti oblik diskriminacije. Kao primer, Veronika Mitro navodi da pametne naočare nisu toliko prisutne u Srbiji jer su finansijski nedostupne široj populaciji. Osim toga, ukazuje i da nedostaje sistemska podrška, odnosno obuke za korišćenje veštačke inteligencije i asistivnih tehnologija.

„Edukativni programi koji bi nam omogućili da efikasno koristimo veštačku inteligenciju su retki i nedovoljno razvijeni, a većina onlajn platformi i aplikacija u Srbiji nije dizajnirana tako što su na umu imale pristupačnost/inkluziju/integraciju/dizajn za sve”, objašnjava Mitro.

Da bi se osobe sa invaliditetom zaštitile i diskriminacija prevenirala, osim pristupačnog dizajna, potrebno je i da se prilikom izrade sistema veštačke inteligencije posebno vodi računa o podacima koji se u taj sistem unose.

Diskriminacija kroz podatke

Čak i veštačka inteligencija sama priznaje da može da diskriminiše osobe sa invaliditetom. Ukoliko to pitanje postavite čuvenom, globalno popularnom Chat GPT-u, odgovoriće vam potvrdno. Sledi pojašnjenje da se to dešava, pre svega, kada se za obuku sistema veštačke inteligencije koriste pristrasni ili neadekvatni podaci, što onda rezultira nepravednim tretmanom osoba sa invaliditetom.

Veštačka inteligencija može da diskriminiše jedino i samo kroz podatke – jasan je i Aleksandar Linc Đorđević, direktor organizacije Data Science Conference i član Saveta za veštačku inteligenciju Vlade Republike Srbije.

„A podaci govore da su ljudi ti koji su godinama i decenijama diskriminisali. Moramo prvo da budemo svesni svojih nedostataka pre nego li uperimo prstom u veštačku inteligencijuˮ, napominje Linc Đorđević.

Svi oblici diskriminacije potiču od ljudi, i to se mora imati u vidu – jasna je i naučna saradnica na Institutu društvenih nauka u Beogradu Marina Budić.

„Sistemi veštačke inteligencije treniraju se na podacima iz našeg svakodnevnog života. Kada bismo živeli u savršenom svetu u kojem ne postoji diskriminacija, sistemi VI bili bi trenirani na tim podacima i verovatno ni sami ne bi ispoljavali bilo kakav oblik diskriminacijeˮ, kaže Budić.

Kako objašnjava Linc Đorđević, diskriminacija ugroženih kategorija poput osoba sa invaliditetom može se sprečiti tako što se mašina uči kako da prepozna pristrasnost u podacima, ili kroz mehanizam pozitivne diskriminacije – favorizovanjem ugroženih društvenih grupa. Prostora za grešku, napominje Linc Đorđević, naravno uvek ima.

„Ali isto tako postoji i, ako ništa drugo, moralna odgovornost profesionalaca koji razvijaju veštačku inteligenciju. Kroz obrazovanje profesionalaca i društva, kao i kroz razumevanje šireg društvenog konteksta u kome obitavamo možemo doći do neophodnog unapređenjaˮ, smatra Linc Đorđević.

Ipak, veštačka inteligencija sve više napreduje, a problem diskriminacije nije rešen. Zato je etički pristup prilikom razvoja i upotrebe VI tehnologije danas postao imperativ.

Ukrotiti veštačku inteligenciju kroz propise

Da je potrebno poštovati neka pravila kako veštačka inteligencija ne bi ugrozila ljudska prava i slobode, prepoznale su i međunarodne organizacije poput Ujedinjenih nacija, Evropske unije, Saveta Evrope.

Među, sada sve brojnijim dokumentima izdvajaju se „Preporuke o etici veštačke inteligencijeˮ koju su u novembru 2021. godine usvojile 193 zemlje članice UNESCA, među njima i Srbija, a koje inkluzivnost navode kao jednu od četiri osnovne vrednosti koje moraju biti temelj za izgradnju VI sistema.

Kako bi regulisala ovu oblast, Evropska unija otišla je dalje od preporuka i prva u svetu usvojila je Zakon koji utvrđuje pravila za upotrebu VI sistema. Iako će na snagu stupiti tek za dve godine – 2026, predviđena rešenja predstavljaju osnovu za zakonodavstvo o veštačkoj inteligenciji.

Srbija zakon nema, ali je prošle godine usvojila „Etičke smernice za razvoj, primenu i upotrebu pouzdane i odgovorne veštačke inteligencijeˮ. Osnov za njihovo donošenje bila je Strategija razvoja veštačke inteligencije koju je Srbija usvojila za period od 2020. do 2025. godine, kao i Akcioni plan za njeno sprovođenje. Na pitanje ko kontroliše da li se smernice poštuju, član Saveta za veštačku inteligenciju Aleksandar Linc Đorđević odgovara: „trenutno nikoˮ.

„Etičke smernice za VI koje postoje su upravo to – smernice. Trenutno je u procesu izrade Zakon o veštačkoj inteligenciji koji će to polje detaljnije urediti. Treba da budemo svesni da na globalnom nivou ne postoji još uvek definisan pojam mehanizma kontroleˮ, ističe Linc Đorđević.

Da se „svi propisi bolje poštuju ukoliko su praćeni sankcijamaˮ, kaže naučna saradnica na Institutu društvenih nauka u Beogradu Marina Budić, i dodaje da je to „vrlo osetljivo pitanje kojem svakako treba posvetiti više pažnje i koje ne sme biti izostavljenoˮ.

„Kada je reč o razvoju bezbedne, sigurne i odgovorne primene VI, kao i mogućim rizicima, posebnu pažnju treba posvetiti osetljivim kategorijamaˮ, konstatuje Budić.

Zato osetljive kategorije društva moraju biti u posebnom fokusu nacionalnih politika. Etička, bezbedna primena veštačke inteligencije postavljena je kao jedan od ciljeva Strategije koja, između ostalog, i sama konstatuje da je diskriminacija moguća i da je zato važno preduzeti preventivne korake.

Nedostaje još mnogo karika u borbi protiv diskriminacije

Urednica „Portala o invalidnostiˮ i programska menadžerka Organizacije za podršku ženama s invaliditetom „Iz kruga Vojvodineˮ Veronika Mitro sumnjičava je po pitanju implementacije perspektiva invalidnosti u strateška dokumenta.

„Koliko sam ja razumela, u Strategiji i nema nekih jasnih predloga prevencije diskriminacije neprivilegovanih grupa, već više deklarativna izjava da je potrebno kontinuiranom etičnom primenom veštačke inteligencije uspostaviti prevenciju socijalne isključenosti osetljivih društvenih grupaˮ, navodi Mitro.

Kako kaže, za Akcioni plan nije ni znala da postoji. „Mogu onda reći da je za osobe, ili žene sa invaliditetom, ostao potpuno nevidljiv i, mogla bih se kladiti, da ne propisuje uslove za primenu veštačke inteligencije koji preveniraju diskriminaciju osoba sa invaliditetom, posebno ne žena sa invaliditetom, a najverovatnije nisu ni alocirana sredstva za preveniranje diskriminacije neprivilegovanih grupaˮ, smatra Mitro.

Zapravo, Akcioni plan je propisao dva pokazatelja onoga što je urađeno na polju zaštite od diskriminacije. Prvi je usvajanje izmena zakona kako bi diskriminacija usled primene veštačke inteligencije bila prepoznata, a drugi – broj održanih obuka za prevenciju diskriminacije u mašinskom učenju.

Do izmene zakona nije došlo, a održano je samo pet prezentacija Etičkih smernica i jedna stručna radionica – pokazuju zvanični podaci iz Izveštaja o rezultatima sprovođenja Strategije razvoja veštačke inteligencije za period 2020-2025. godine.

Strategija sa novim ciljevima za narednih pet godina već je napisana. Završena je i javna rasprava tokom koje je civilni sektor izneo svoje zamerke da u Strategiji nisu dovoljno istaknuti rizici od veštačke inteligencije, odnosno mogućnost dodatne marginalizacije već osetljivih kategorija društva.

Šta će se naći u konačnoj, usvojenoj verziji važno je isto koliko i primena napisanog. Da bi veštačka inteligencija mogla da štiti od diskriminacije, to prvo moraju da čine ljudi.

* Ovaj tekst nastao je u okviru projekta „Veštačka inteligencija u službi osoba sa invaliditetom: Novim tehnologijama do efikasnije inkluzije osoba sa invaliditetom” koji sprovodi Centar za profesionalizaciju medija i medijsku pismenost (CEPROM), a koji je sufinansiran iz budžeta Republike Srbije – Ministarstva informisanja i telekomunikacija. Stavovi izneti u podržanom medijskom projektu i ovom tekstu nužno ne izražavaju stavove organa koji je dodelio sredstva.