Regionalna služba za zapošljavanje u Galiciji, u Španiji, koristi platformu zasnovanu na vještačkoj inteligenciji (AI) koja automatki klasifikuje oglase za posao i procjenjuje zapošljivost kandidata.
Primjena AI u javnim službama za zapošljavanje nije novost i o tome je izvještaj lani objavila Organizacija za ekonomsku saradnju i razvoj (OECD), gdje navodi slične primjere i u Belgiji, Kanadi, Finskoj, Njemačkoj, Luksemburgu…
Takvi sistemi, pojašnjavaju, omogućavaju da se dodatno unaprijede aktivnosti i usluge za tražioce posla, osobe kojima prijeti gubitak posla i poslodavce.
Na tom putu, AI pruža brojne mogućnosti za javne službe za zapošljavanje, ali upozoravaju i na određene rizike, kao što je rizik od pristrasnosti, te potrebom da algoritmi budu transparentniji.
U Crnoj Gori AI se već koristi u javnom sektoru, dok konkretno u sektoru zapošljavanja nema sličnih primjera. O kojoj god da se oblasti radi, stručnjaci upozoravaju na slično - da ako neki organ javne vlasti koristi AI, građani u svakom momentu to moraju da znaju, moraju da znaju na koji način se koristi i u kojoj mjeri.
Bez zakonskog okvira, AI u javnoj upravi ostaje u ‘sivoj zoni’, koristi se, ali bez jasne odgovornosti. To otvara prostor za greške, zloupotrebe i nejednak tretman građana. Ako algoritam preporuči odbijanje zahtjeva za subvenciju ili izdavanje dozvole, građanin mora imati pravo da zna na osnovu kojih podataka i kriterijuma je odluka donesena
“To mora postati dio zakonski zagarantovane transparentnosti”, kaže Muhamed Gjokaj, bivši predsjednik Savjeta Agencije za zaštitu ličnih podataka i slobodan pristup informacijama i ekspert u tim oblastima.
“Slobodan pristup informacijama ne može više biti ograničen samo na dokumente, zapisnike i službene akte. U 21. vijeku, informacije od javnog značaja obuhvataju i algoritme digitalne procedure koji utiču na odluke o zapošljavanju, socijalnim davanjima, zdravstvenim prioritetima ili urbanističkim planovima... Građani imaju pravo da znaju da li je određeni organ javne vlasti koristio algoritamski sistem, koji tačno sistem je korišćen (npr. alat za analizu rizika, automatsku selekciju kandidata, predikciju ponašanja korisnika...), te u kojoj mjeri je taj sistem imao uticaj na konačnu odluku”, kazao je Gjokaj za “Vijesti”.
Jačanje povjerenja
Uvođenje zakonske obaveze o objavljivanju takvih podataka, prema riječima Gjokaja, značilo bi jačanje povjerenja između građana i institucija.
“Transparentnost ne smije biti shvaćena kao prijetnja, već kao osnovni preduslov demokratskog legitimiteta u digitalnom dobu. Ali se jasno mora propisati odgovornost u digitalnim odlukama.”
Trenutno, kako je kazao, nijedna država u svijetu nije u potpunosti integrisala sistem vještačke inteligencije u okvire zakona o slobodnom pristupu informacijama. To, ipak, dodaje, ne znači da treba čekati da rješenja dođu izvana.
“Naprotiv, postoji istorijska prilika da budemo pioniri u normiranju odnosa između vještačke inteligencije i transparentnosti javne vlasti”, poručuje Gjokaj.
Šta znači normativno uređenje
Normativno uređenje upotrebe AI u javnim institucijama, pojašnjava sagovornik “Vijesti”, treba da definiše obavezu organa vlasti da prijave upotrebu algoritama, obavezu objavljivanja osnovnih informacija o svrsi, načinu rada i rizicima sistema, ograničenja kada je riječ o podacima koji mogu ugroziti bezbjednost, privatnost ili poslovnu tajnu, kao mehanizme nadzora nad upotrebom AI i odgovornost javnopravnih organa.
Time bi se, kako je kazao, uspostavio balans između transparentnosti i zaštite osjetljivih informacija. To je, kaže on, suština modernog prava na informaciju.
“Bez zakonskog okvira, AI u javnoj upravi ostaje u ‘sivoj zoni’, koristi se, ali bez jasne odgovornosti. To otvara prostor za greške, zloupotrebe i nejednak tretman građana. Ako algoritam preporuči odbijanje zahtjeva za subvenciju ili izdavanje dozvole, građanin mora imati pravo da zna na osnovu kojih podataka i kriterijuma je odluka donesena.”
Normiranjem tog područja, država bi, kako je rekao, jasno poručila da tehnologija služi čovjeku, a ne obrnuto.
“Transparentnost digitalnih procesa mora postati temelj upravljanja javnim sektorom. Čovječanstvo danas koristi čitav spektar naprednih sistema vještačke inteligencije i oni već utiču na način donošenja odluka u obrazovanju, novinarstvu, administraciji i biznisu, što znači da bi njihova upotreba u javnim organima morala biti pod javnim nadzorom.”
Uvođenje AI u sistem javne uprave, poručuje sagovornik “Vijesti”, nije samo tehničko, već “duboko etičko, pravno i društveno pitanje”.
“Ako želimo da zadržimo povjerenje građana, moramo osigurati da svaka odluka donesena uz pomoć algoritma bude objašnjiva, provjerljiva i transparentna.”
Osim podacima, slobodan pristup i algoritmima
Gjokaj je mišljenja da Crna Gora ne treba da čeka rješenja koja dolaze iz inostranstva, već da treba da sama kreira normativni okvir koji će štititi prava građana i učiniti javnu vlast odgovornom u digitalnom dobu.
Slobodan pristup informacijama, kako je kazao, znači da slobodan mora biti i pristup algoritmima.
“Transparentna i odgovorna upotreba vještačke inteligencije u javnoj upravi se realizuje kada se algoritamski sitemi koji se koriste radi donošenja odluke koje imaju pravni efekat po pojedinca donose uz pomoć sistema AI, na način da građani budu obaviješteni o tome da je u postupku korišćena AI ili da se navede koji organ je odgovoran za njeno korišćenje, ko je fizičko lice koje je nadziralo ili potvrdilo odluku. Na taj način se sprečava mogućnost da se odluke donose isključivo na osnovu algoritama, bez ljudske kontrole.”
Automatizovana odluka, čiji je sadržaj rezultat algoritamske obrade podataka, dodaje on, mora uvijek biti podložna nadzoru, reviziji i pravu građana na informaciju o tehničkoj specifikaciji ili objašnjenju.
“U suprotnom, dolazi do automatizovane obrade ličnih podataka bez adekvatne zaštite, čime se ugrožava pravo na privatnost i zaštitu ličnih podataka, garantovano i članom 8 Evropske konvencije o ljudskim pravima. Samo kroz jasno propisane granice između automatizovanih procesa i ljudskog nadzora moguće je sačuvati povjerenje građana i osigurati da digitalna transformacija javne uprave bude u službi društva a ne obrnuto”.
“TEST ŠTETNOSTI”
Novi Predlog Zakona o slobodnom pristupu informacijama koji je pripremilo Ministarstvo javne uprave predviđa uvođenje tzv. “testa štetnosti” prilikom odlučivanja o pristupu informacijama koje sadrže lične podatke.
Iako je navedeno da je rješenje usklađeno sa praksom pojedinih država članica Evropske unije, Gjokaj u pitanje dovodi njegovu usaglašenost sa osnovnim principima zaštite ličnih podataka.
“Prema evropskim standardima Opšte uredbe o zaštiti ličnih podataka - GDPR i praksa Evropskog suda za ljudska prava, obrada ličnih podataka može biti sprovedena isključivo na osnovu jasnog pravnog osnova tj. zakona ili izričite saglasnosti lica. Uvođenjem testa štetnosti kao diskrecione ocjene službenika, stvara se potencijalni pravni osnov za šire tumačenje i zloupotrebu prava na pristup informacijama nauštrb privatnosti pojedinaca”, kaže on i dodaje da, ako se u isti proces uključi AI, bilo kao alat za analizu, bilo kao mehanizam koji daje preporuke ili automatske odluke, potencijano može doći do dodatne složenosti.
“U takvim okolnostima, postoji realna opasnost da se odluke o pravima građana donose bez ljudskog nadzora, lični podaci obrađuju bez adekvatnog pravnog osnova, a procjena štetnosti postane instrument za opravdavanje automatizovanih odluka”, rekao je on i dodao da bi takav razvoj događaja bio direktna povreda člana 8 Evropske konvencije o ljudskim pravima i suprotan osnovnim principima zaštite privatnosti i ličnih podataka.
Zato je, kako je kazao, potrebno da postoji obaveza javnih organa da građanima jasno stave do znanja kada je odluka djelimično ili potpuno zasnovana na upotrebi sistema AI.
“Potrebno je propisati obavezan ljudski nadzor nad svakom automatizovanom odlukom koja može uticati na prava i obaveze građana i zabraniti isključivo automatizovano odlučivanje u upravnim postupcima koji se tiču osnovnih prava.”
Kad je u pitanju primjena instituta “testa štetnosti”, dodaje on, ograničiti na strogo zakonom definisane slučajeve i osigurati da se ne koristi kao pravni osnov za obradu ličnih podataka.
“Na kraju, kao dodatni mehanizam, potrebno je uspostaviti javni registar upotrebe vještačke inteligencije u javnom sektoru, čime bi se povećala transparentnost i povjerenje građana”, poručuje on.
Otvoreni podaci kao podrška razvoju ekonomije
Pored pitanja upotrebe AI, kaže Gjokaj, Crna Gora se suočava sa gotovo potpunim izostankom sistema otvorenih podataka (open data).
“Iako su otvoreni podaci u EU godinama stub digitalne ekonomije, kod nas ova oblast nije zaživjela, prije svega jer novi Predlog Zakona o SPI ne nudi konkretne mehanizme realizacije, niti rješava pitanje implementacije. Veliki broj dokumenata državnih organa i dalje se nalazi u papirnim arhivama i nije digitalizovan. Oni koji jesu, uglavnom nisu transformisani u mašinski čitljive formate, što onemogućava njihovu upotrebu u analitičke, istraživačke i razvojne svrhe”.
Procjene Evropske komisije, kaže Gjokaj, pokazuju da zemlje EU kroz sistem otvorenih podataka godišnje ostvaruju ekonomski doprinos od preko 200 milijardi eura, kroz nove digitalne servise, startap inovacije, naučna istraživanja i unapređenje javnih politika.
“Crna Gora, međutim, nije napravila nijedan suštinski korak u tom pravcu, i time gubi značajne resurse koji bi mogli predstavljati snažnu podršku budžetu i digitalnom razvoju zemlje.”
Da bi ta oblast zaživjela, poručuje, neophodno je da se u Zakonu o SPI predvidi formiranje komisije za otvorene podatke, čiji bi zadatak bio, ne samo praćenje politike otvorenih podataka i pravne primjene te materije, već i razvoj ekonomskog modela za njeno sprovođenje.
Kaže će u tom slučaju biti neophodno razdvojiti nadležnosti koje su trenutno objedinjene u AZLP.
Bonus video:
