Koliko regulatora vještačke inteligencije ima papa?

Papa Lav XIV sada se oglasio o najvažnijem pitanju našeg vremena: dolasku vještačke inteligencije i spoznaji da tehnološke mogućnosti čovječanstva napreduju brže od institucija osmišljenih da njima upravljaju. U svojoj prvoj enciklici, Magnifica Humanitas, Lav upozorava da vještačka inteligencija bez zaštitnih ograda rizikuje da potčini ljudski rod; uz mjere bezbjednosti, može obezbijediti da čovječanstvo napreduje. Ali koliko god moralno snažne bile Lavove riječi, čini se sumnjivim da će Katolička crkva postaviti globalnu tehnološku agendu.

Ni poluge vlasti ne djeluju obećavajuće. Vještačka inteligencija je oličenje transnacionalnog pitanja koje zahtijeva multilateralni okvir upravljanja. Ali to je malo vjerovatno u trenutku kada Sjedinjene Države napuštaju globalno liderstvo, SAD i Kina se nadmeću za dominaciju nad najnaprednijim tehnologijama, Indija teži strateškoj autonomiji, a veći dio svijeta u razvoju fokusiran je na rast, a ne na ograničenja. Politički uslovi za “Bretton Woods za vještačku inteligenciju” jednostavno ne postoje.

Postoji, međutim, još jedna moćna poluga koja se može povući, a ona ne zavisi od saradnje rivala niti od kapaciteta opterećenih vlada. Poluga kapitala, i institucije koje njime upravljaju u velikim razmjerama, možda su najvažniji i najmanje shvaćeni akteri upravljanja našeg doba.

Državni investicioni fondovi, javni penzioni sistemi i velike zadužbine zajedno upravljaju sa više od 75 biliona dolara, odnosno oko 70 odsto svjetskog BDP-a. Oni imaju fiducijarnu obavezu da teže dugoročnim prinosima, što zahtijeva stabilan ekonomski sistem iz kojeg se ti prinosi mogu ostvariti.

Za pojedinačne tehnološke kompanije, povećani rizik može biti racionalan ako donosi konkurentsku prednost. Za nacionalne države, ubrzavanje tehnoloških kapaciteta po svaku cijenu može biti racionalno ako mijenja odnos moći — sjetimo se američkog Projekta Manhattan za razvoj atomske bombe. Ali za investicione institucije koje posjeduju većinski udio u svjetskoj ekonomiji, katastrofalan neuspjeh bilo gdje vodi gubicima svuda — što je direktna prijetnja njihovom mandatu.

Ako države ne mogu efikasno da se koordiniraju, a firme ne mogu same da se regulišu pod pritiskom konkurencije, potreban je globalni sporazum prema kojem bi kritična masa velikih vlasnika imovine tretirala egzistencijalni rizik kao obavezujuću kategoriju u investicionom upravljanju. U skladu s tim, pristup njihovom kapitalu zavisio bi od poštovanja definisanih standarda nadzora nad vještačkom inteligencijom. Ti zahtjevi odnosili bi se ne samo na njihove portfeljske investicije već i na menadžere imovine koje koriste i preko kojih se njihov kapital plasira.

Ova ideja ima presedan. Sullivanova načela, koja je 1977. formulisao velečasni Leon Sullivan i koja su prihvatili veliki institucionalni investitori, koristila su raspodjelu kapitala kako bi uticala na radna i građanska prava u američkim firmama koje su poslovale u Južnoj Africi za vrijeme aparthejda. Sullivan se 1987. odrekao tih načela i pozvao na potpuni bojkot i povlačenje korporativnih ulaganja, iako je kasnije sa generalnim sekretarom UN Kofijem A. Ananom radio na proširenim Globalnim Sullivanovim načelima radi unapređenja korporativne društvene odgovornosti širom svijeta. Carbon Disclosure Project, danas standard izvještavanja za hiljade kompanija, nastao je iz koalicije institucionalnih investitora koji su tražili uporedive klimatske podatke. U oba slučaja, dovoljan broj investitora se priključio da bi se stvorili tržišni uslovi širokog dometa.

Kapitalni sporazum počeo bi osnivačkom grupom državnih fondova, javnih penzionih fondova i zadužbina fondacija. Iako se te institucije politički razlikuju, sve se suočavaju sa jedinstvenom kombinacijom dugoročnih obaveza, izloženosti čitavom sistemu i upravljačkih okvira koji su već počeli da uzimaju u obzir faktore izvan pukog maksimizovanja prinosa.

Operativno, sporazum bi se fokusirao na standardizovano objavljivanje podataka, poređenje pokazatelja i sprovođenje pravila. Članovi bi se saglasili o osnovnom skupu metrika koje treba pratiti - kao što su nezavisne bezbjednosne revizije i ljudski nadzor nad ulogom sistema vještačke inteligencije u kritičnim odlukama - i uspostavili bi zahtjeve za izvještavanje za svakog menadžera imovine koji prima njihov kapital. Članovi sporazuma bi zatim objedinjavali te podatke kroz cijeli svoj portfelj i dostavljali rezultate neutralnoj, nezavisnoj neprofitnoj organizaciji koju bi osnovali.

Ta neprofitna organizacija bi anonimizovala i objedinjavala dostavljene podatke, objavljujući uporedne pokazatelje koji svakom članu omogućavaju da procijeni svoju izloženost u odnosu na slične institucije. Članovi bi javno objavljivali sopstvene rezultate poređenja i način na koji se njihova izloženost mijenjala tokom vremena. Iznad određenih pragova, objavljivanje bi zahtijevalo nezavisnu verifikaciju. Firme u visokorizičnim oblastima prolazile bi nezavisne bezbjednosne revizije i morale bi da pokažu usklađenost sa utvrđenim protokolima upravljanja rizikom kao uslov za pristup kapitalu.

Infrastruktura podataka potrebna za ovo takođe ima presedan. Grupa američkih osiguravajućih kompanija je 1971. osnovala neprofitni Insurance Services Office, ISO, spajanjem državnih, regionalnih i nacionalnih biroa za rejting u oblasti osiguranja imovine i odgovornosti. Time je uspostavljen neutralni posrednik za anonimizovane podatke o štetama koje su učesnici dostavljali, a koji je kasnije postao profitna kompanija Verisk Analytics.

Pretpostavka iza ISO-a bila je da nijedan pojedinačni osiguravač nema dovoljno podataka da precizno odredi cijene složenih, povezanih rizika, ali da ih industrija kolektivno ima. ISO je omogućio konkurentima da uporede sopstvenu izloženost sa obrascima na nivou cijele industrije i da identifikuju sistemske rizike koje nijedna pojedinačna perspektiva ne bi mogla da uoči. Upravljanje je počivalo na nepristrasnom objedinjavanju podataka od strane zajednički uspostavljene neprofitne organizacije, zajedničkim standardima i međusobnom poređenju - modelu koji bi kapitalni sporazum preslikao na egzistencijalni tehnološki rizik.

Ovaj predlog će neminovno biti upoređen sa ESG ulaganjem, kojem treba odati priznanje za uvid da investicione odluke imaju spoljne efekte i da firme imaju finansijski interes da njima upravljaju. Ali ESG je obuhvatio preširok raspon ciljeva i patio od nedovoljne standardizacije, suvišnih metrika i ranjivosti zbog percepcije da je riječ o vrijednosno vođenom aktivizmu zaogrnutom fiducijarnim jezikom - odnosno “woke” kapitalizmu, kako ga nazivaju kritičari.

Predloženi kapitalni sporazum, međutim, nije vrijednosna inicijativa. On traži od institucija da upravljaju specifičnom, mjerljivom kategorijom finansijskog rizika koja prijeti dugoročnoj vrijednosti svake imovine koju posjeduju. Institucija koja odbija da mjeri svoju izloženost tehnologijama koje najvjerovatnije mogu potkopati njene osnovne ciljeve ne izbjegava ideologiju; ona izbjegava svoj posao.

Za razliku od neuspjelih klimatskih investitorskih koalicija, kao što su Net Zero Asset Owner Alliance i Glasgow Financial Alliance for Net Zero, gdje se činilo da su obaveze preuzimane na štetu finansijskih prinosa, fiducijarna logika kapitalnog sporazuma utemeljena je u upravljanju rizikom. Štaviše, nema antimonopolskog rizika: struktura sporazuma — standardizovano objavljivanje podataka i poređenje preko neutralne neprofitne organizacije, a ne koordinisane portfeljske odluke među konkurentima — analogna je ISO modelu, a ne kartelu.

Vještačka inteligencija može biti najveća prilika i najveći rizik za čovječanstvo. Tamo gdje države ne mogu da se usklade, akteri sa sistemskom izloženošću i prekograničnim dometom postaju jedini subjekti sposobni da uvedu potrebna ograničenja u velikom obimu. U današnjoj globalnoj ekonomiji to su veliki, diversifikovani vlasnici imovine. Na njima je da urade ono što religija i vlade ne mogu.

Autor je bivši glavni finansijski direktor Fondacije Bill & Melinda Gates, suosnivač je i koizvršni direktor Novate.

Autorska prava: Project Syndicate, 2026.