Vještačka inteligencija sama po sebi ne mora da predstavlja prijetnju osnovnim pravima, ali bez pravovremenog i adekvatnog normativnog odgovora, ona može postati faktor sistemskog rizika. Zato je usklađivanje sa Opštom uredbom o zaštiti podataka Evropske unije (GDPR), njenom nadogradnjom u skladu sa Aktom o vještačkoj inteligenciji (Artificial Intelligence, AI) i aktivno učešće u regionalnim i evropskim inicijativama jedini održiv put ka očuvanju prava građana i povjerenja u digitalno društvo.
To je, pored ostalog, za “Vijesti” rekao Muhamed Gjokaj iz Agencije za zaštitu ličnih podataka i slobodan pristup informacijama (AZLP), ujedno i bivši predsjednik Savjeta Agencije i jedan od kandidata za sudiju Ustavnog suda.
GDPR je najvažniji regulatorni instrument Evropske unije (EU) u oblasti zaštite ličnih podataka.
Njeno donošenje, pojašnjava Gjokaj, označilo je prekretnicu u načinu na koji se lični podaci obrađuju, štite i nadziru. Međutim, dodaje on, ubrzani razvoj AI, naročito sistema zasnovanih na mašinskom učenju i generativnim modelima, postavlja ozbiljna pitanja o sposobnosti GDPR-a da adekvatno odgovori na savremene tehnološke izazove.
“Iako GDPR ostaje snažan normativni osnov, jasno je da nije projektovan da odgovori na kompleksnost i dinamiku savremenih sistema vjestačke inteligencije”, kaže.
GDPR je, dodaje Gjokaj, koncipiran u kontekstu relativno predvidivih i statičnih sistema obrade podataka, u kojima su svrha obrade, pravni osnov, način obrade podataka, transparentnost i odgovorni subjekti, odnosno rukovaoci i korisnici podataka bili jasno definisani.
Nasuprot tome, prema njegovim riječima, savremeni AI sistemi funkcionišu kroz kontinuirano učenje, obradu velikih i heterogenih skupova podataka i statističko zaključivanje, koje često nije u potpunosti transparentno čak ni njihovim kreatorima.
“Takva razlika u konceptualnom pristupu dovodi do normativnog raskoraka između postojećeg pravnog okvira i tehnološke realnosti”, rekao je Gjokaj.
Prema njegovim riječima, poseban izazov predstavlja automatska obrada podataka koja se koristi u sistemima za automatizovano donošenje odluka.
“Iako GDPR pruža zaštitu pojedincima od isključivo automatizovanih odluka koje proizvode pravne ili slične značajne posljedice, ova odredba ne obuhvata širok spektar savremenih AI praksi koje, i bez formalnog pravnog efekta, imaju dubok uticaj na prava, mogućnosti i društveni položaj pojedinaca posebno u zadiranje u njihovu privatnost kroz razne načine obrade podataka kroz profilisanje ličnosti”, kaže sagovornik “Vijesti”.
Algoritamsko profilisanje, rangiranje, preporučivanje i prediktivna analiza, dodaje Gjokaj, sve češće oblikuju pristup u javnom životu od kompanija koje koriste savremene alatke pri zapošljavanju, obrazovanju, finansijskim i drugim uslugama i informacijama.
“Time se granica između posljedice i formalne pravne odluke dodatno zamagljuje, odnosno ostaje nejasna”, kazao je Gjokaj.
Jedno od najosjetljivijih pitanja, dodaje, odnosi se na obradu ličnih podataka u svrhu treniranja AI sistema.
GDPR, pojašnjava on, počiva na principima zakonitosti, ograničenja svrhe, minimizacije podataka i vremenskog ograničenja čuvanja, a da vještačka inteligencija zahtijeva masivne količine podataka, višestruke i često sekundarne svrhe obrade, kao i dugoročnu upotrebu informacija koje ostaju ugrađene u same modele.
“U praksi se sve češće koriste i tzv. sintetički podaci, koji se generišu algoritamskim putem na osnovu stvarnih skupova podataka. Iako se sintetički podaci formalno predstavljaju kao bezbjednija alternativa, savremeni algoritmi omogućavaju da se oni u određenim slučajevima podudaraju ili visoko koreliraju sa stvarnim ličnim podacima, što otvara realan rizik od indirektne identifikacije i povrede prava lica”, kazao je Gjokaj.
Takve situacije, kako je rekao, dodatno potvrđuju da tradicionalni koncepti anonimizacije i pseudonimizacije postaju nedovoljni u eri napredne vještačke inteligencije.
“Crna Gora još nije donijela novi Zakon o zaštiti ličnih podataka u potpunosti usklađen sa GDPR-om, što dodatno otežava odgovor na savremene izazove u oblasti zaštite podataka, naročito u situaciji kada se AI sve intenzivnije koristi u javnom i privatnom sektoru”, rekao je Gjokaj.
Za podatke ne postoje granice
Potreba za usklađivanjem nacionalnog zakonodavstva, prema njegovim riječima, ne odnosi se samo na formalno preuzimanje GDPR standarda, već i na njihovu nadogradnju u skladu sa najnovijim tehnološkim dostignućima.
“Posebno u dijelu obrade podataka za potrebe treniranja AI sistema i upravljanja rizicima koji iz toga proizilaze. Dodatnu složenost tom pitanju daje i prekogranični karakter obrade podataka”, kazao je sagovornik “Vijesti”.
Kao ilustrativan navodi primjer korišćenja ličnih podataka sa društvene mreže Fejsbuk građana Zapadnog Balkana u svrhu treniranja sistema vještačke inteligencije.
“Takve prakse jasno pokazuju da zaštita ličnih podataka više ne može biti isključivo samo nacionalno pitanje”, rekao je on.
U tom smislu, dodaje Gjokaj, značajna je inicijativa AZLP koja je pokrenula formiranje radne grupe za zajedničko djelovanje sa Agencijom za zaštitu ličnih podataka Bosne i Hercegovine, Povjerenikom za informacije od javnog značaja i zaštitu podataka o ličnosti Republike Srbije i Agencijom za zaštitu ličnih podataka Sjeverne Makedonije.
“Cilj ovakvog regionalnog pristupa jeste jačanje institucionalne saradnje i zaštita prava građana čiji se lični podaci nalaze pod pojačanom obradom u kontekstu razvoja i primjene vještačke inteligencije”, rekao je Gjokaj.
Zakone usvojiti što prije
Sagovornik “Vijesti” dodaje da je EU svjesna ograničenja postojećih regulatornih okvira, pa je usvajanjem Akta o vještačkoj inteligenciji započela proces normativne nadogradnje i usaglašavanja koji ima za cilj uspostavljanje ravnoteže između tehnološkog razvoja i zaštite osnovnih prava, odnosno zaštite ličnih podataka građana.
AI Act, međutim, ne zamjenjuje GDPR, već ga dopunjuje, poručuje Gjokaj, i uvodi pristup zasnovan na procjeni rizika, stroge obaveze za visokorizične AI sisteme i zabranu određenih neprihvatljivih praksi.
“Ovaj model regulacije jasno ukazuje na pravac kojim bi trebalo da se kreću i države kandidati za članstvo u EU, uključujući Crnu Goru”, kazao je on.
U tom smislu, dodaje, neophodno je hitno usvojiti novi zakon o zaštiti ličnih podataka, koji će biti u potpunosti usklađen sa GDPR-om, jačati kapacitete nadzornog organa, a posebnu pažnju posvetiti obaveznim procjenama uticaja na zaštitu podataka za AI sisteme, uvođenju kontinuiranog nadzora nad visokorizičnim sistemima u kojima obrađuju lični podaci, kao i jačanju regionalne i međunarodne saradnje u oblasti zaštite podataka.
“Kao član radne grupe za izradu Nacrta zakona o zaštiti ličnih podataka usklađenog sa GDPR-om i radne grupe za izradu Nacrta zakona o zaštiti podataka o ličnosti koje obrađuju nadležni organi, smatram da je od ključnog značaja da se ovi zakoni usvoje u što kraćem roku”, kazao je Gjokaj.
Istovremeno, dodaje, neophodno je razmotriti integrisanje posebnih normativnih elemenata koji se odnose na AI, kako bi se nacionalni pravni okvir pravovremeno prilagodio savremenim tehnološkim realnostima i regulatornim trendovima u EU.
“Budućnost zaštite ličnih podataka u Crnoj Gori, kao i u širem evropskom prostoru, zavisiće od sposobnosti pravnog sistema da se razvija uporedo sa tehnologijom”, poručuje sagovornik “Vijesti”.
Bonus video:
