Oprezno sa AI vladama

Početkom aprila Ujedinjeni Arapski Emirati (UAE) objavili su plan da u naredne dvije godine polovinu državnih usluga pružaju uz pomoć vještačke inteligencije, tj. sistema AI agenata. Prema tom planu, AI će imati ulogu “izvršnog partnera” koji “analizira, odlučuje, izvršava i unapređuje se u realnom vremenu”, bez ljudske intervencije. Naše iskustvo na raskršću preduzetništva, nauke i digitalne politike omogućava nam da sa sigurnošću kažemo: riječ je o nepromišljenom planu. Ali UAE pretenduju da budu globalni uzor u digitalnoj politici, pa bi druge zemlje mogle da zaključe da treba slijediti njihov primjer.

Tu opasnost ne smijemo ignorisati. Već dobro znamo šta se događa kada vlade prepuste donošenje odluka algoritmima. Godine 2021. sličan sistem u Holandiji pogrešno je optužio oko 35.000 porodica za prevaru sa dječjim dodacima. Roditeljima je naređeno da vrate desetine hiljada eura koje državi - nisu dugovali; ljudi su ostajali bez domova; više od dvije hiljade djece preuzele su državne službe socijalne zaštite. Takav ishod bio je praktično unaprijed ugrađen u sistem. Kao faktori rizika označavana su prezimena koja zvuče kao strana i dvojno državljanstvo. Time je nezakonita diskriminacija direktno ugrađena u sam model. Rezultat je bio nacionalni skandal koji je na kraju doveo do ostavke vlade tadašnjeg premijera Marka Rutea.

Slični obrasci pojavili su se i u Australiji. U periodu od 2015. do 2019, u okviru programa Robodebt, 433.000 korisnika socijalne pomoći suočilo se sa zahtjevima da vrate navodno nezakonito primljenih 1,7 milijardi australijskih dolara (1,2 milijarde USD). Posljedice su bile razorne. Majke su svjedočile o sinovima koji su izvršili samoubistva nakon što su dobili obavještenja o dugu koji nijesu mogli da ospore ni na koji način. Kasnije je Kraljevska komisija zaključila da program nije bio “ni pravičan ni zakonit”.

U međuvremenu, savezne države Arkanzas i Ajdaho u Sjedinjenim Državama zamijenile su medicinske sestre algoritmima koji su procjenjivali potrebu i obim kućne njege za pacijente. Ljudi sa cerebralnom paralizom, kvadriplegijom i multiplom sklerozom preko noći su ostali bez 20 do 50 odsto pomoći u kući. Sudovi su kasnije naložili obustavu korišćenja tih sistema, ali tek pošto je šteta već bila napravljena. Neki pacijenti ostali su bez adekvatne podrške, što je dovelo do medicinskih komplikacija koje su mogle biti spriječene.

A svaki od ovih slučajeva odnosi se na samo jedan sistem u okviru jednog državnog organa. Sada zamislite da slični sistemi upravljaju polovinom svih javnih usluga, kao što predviđa plan UAE.

Zamislite, na primjer, samohranu majku kojoj su dječji dodaci zamrznuti nakon što je AI agent označio njene bankarske transakcije kao sumnjive. Odjednom je prinuđena da se snalazi kroz procedure žalbe, dok je jedan automatizovani sistem preusmjerava na drugi - bez ikakvog kontakta sa stvarnom osobom - upravo u trenutku kada mora da plati kiriju. Ili radnika migranta kojem je odbijeno produženje boravišne dozvole zato što sistem ne može da prepozna dokumenta njegovog poslodavca, čime on faktički postaje migrant bez papira. Ili stariju udovicu kojoj je isplata penzije obustavljena zbog nepodudaranja podataka u dvije baze, dok ona nije u stanju da se snađe u softverskom interfejsu.

To nisu hipotetičke situacije. To su dokumentovani tipični slučajevi koje sistem agenata vještačke inteligencije dodatno pogoršava do te mjere da nikakav program obuke ne može riješiti problem u roku od dvije godine, koliko su UAE postavili kao cilj.

Izdvajaju se tri ključna rizika.

Prvi su razmjere problema: kada socijalni radnik napravi grešku, strada jedna osoba; kada pogriješi AI agent, posljedice mogu pogoditi hiljade ljudi prije nego što iko primijeti da nešto nije u redu.

Pored toga, proces donošenja odluka zasnovan na vještačkoj inteligenciji nije transparentan. Sistemi AI agenata donose odluke sekvencijalno, pri čemu se svaki naredni korak oslanja na prethodni, tako da je u trenutku kada šteta postane vidljiva uzročno-posljedični lanac praktično već izgubljen. Upečatljiv primjer predstavlja algoritamski sistem za procjenu zdravstvenih beneficija u američkoj saveznoj državi Arkanzas. Niko - čak ni tvorci modela - nije mogao u potpunosti da objasniti kako on funkcioniše, što je podstaklo federalni sud da ga nazove “potpuno iracionalnim”.

Uz to, nedostatak transparentnosti može biti ugrađena osobina samog sistema zbog poslovne tajne ili vlasničkih okvira nad algoritmima koji ga pokreću.

Na kraju, AI sistemi prebacuju teret dokazivanja na građane: oni primoravaju ljude da dokazuju svoju nevinost, umjesto da država opravdava svoje postupke. Nakon skandala sa dječjim dodacima u Holandiji i programa Robodebt u Australiji, postalo je jasno da najviše stradaju oni koji imaju najmanje mogućnosti da se brane - ljudi sa malo vremena i novca, slabim poznavanjem jezika ili bez pristupa pravnoj pomoći.

Ujedinjeni Arapski Emirati tvrde da će princip “Ljudi na prvom mjestu” biti vodeći za njihov AI program. Međutim, izabrani pristupi govore suprotno. Vlada koja ministarstva ocjenjuje prema “brzini implementacije” i nivou “ovladavanja AI vještinama” ne prati ono što je zaista važno; ona kopira upravo onu logiku efikasnosti koja je već nanijela toliko štete širom svijeta.

Brzina implementacije je mjerilo trgovine. A osnovna obaveza države jeste da brine o ljudima, oslanjajući se na ljudsko rasuđivanje. Takav pristup odgovara očekivanjima građana da vlast bude odgovorna i transparentna, da objašnjava odluke koje utiču na njihova prava i slobode.

Kada vlasti, u ime efikasnosti, sa oduševljenjem prihvataju autonomno donošenje odluka pomoću vještačke inteligencije, one se zapravo odriču odgovornosti.

Svi algoritamski skandali posljednjih godina otvaraju ista suštinska pitanja: ko snosi odgovornost i ko je donio odluku? U vladi kojom upravlja agentska vještačka inteligencija na ta pitanja više nema jasnih odgovora. Sistem sam odlučuje, sam se ažurira i sam nastavlja da djeluje, ostavljajući građane bez pomoći kada nešto pođe po zlu.

Uspon vještačke inteligencije potkopava demokratsku odgovornost ne kroz otvoreno preuzimanje vlasti, već putem odlučivanja o javnim nabavkama koje tiho zamjenjuje ljudski nadzor. Slabeći povjerenje u državne institucije u trenutku kada je ono već opasno nisko, ovi sistemi na kraju služe interesima tehnoloških giganata koji guraju AI revoluciju.

A tako ne mora biti.

Ujedinjeni Arapski Emirati imaju resurse, stručne kadrove i političku stabilnost potrebne za izgradnju digitalne uprave koja bi zaista bila usmjerena na čovjeka i mogla postati svjetski standard - dopunjujući, a ne zamjenjujući, ljudsko odlučivanje.

Za greške neće plaćati samo UAE. Cijenu će platiti i samohrana majka u nekoj drugoj zemlji, kojoj će algoritam ukinuti socijalnu pomoć, a da ona neće ni znati da takav algoritam uopšte postoji - kao i bezbroj drugih ljudi širom svijeta koji se nalaze u istoj situaciji.

G. Ramos je kopredsjedavajuća TISFD-a (Task Force on Inequalities and Social-Related Financial Disclosures)

E. Stojmenova Duh je vanredna profesorica elektrotehnike na Univerzitetu u Ljubljani; bila je ministarka za digitalnu transformaciju Slovenije

Copyright: Project Syndicate 2026.