INOVACIJE

Čovječanstvo na testu: Hoćemo li izdržati?

Ključno pitanje 21. vijeka više nije da li čovječanstvo može da izgradi izuzetne sisteme, već da li može da ih uskladi - tehnički, institucionalno i moralno - prije nego što izmaknu kontroli. Čeka nas veliki posao

591 pregleda 0 komentar(a)
Ručak na vrhu nebodera, 1932, Foto: wikipedia.org
Ručak na vrhu nebodera, 1932, Foto: wikipedia.org

Ponovo je vrijeme za ručak na krovu svijeta. Izbor časopisa Time za "Ličnost godine" oživjelo je kultnu fotografiju iz doba Velike depresije, na kojoj radnici nonšalantno ručaju sjedeći na gredi okačenoj iznad Menhetna. Dok se grad pruža ispod njih, slika prikazuje rizik kao nešto normalizovano, pa čak glamurizovano.

Ovog puta, međutim, ljudi koji ručaju nisu anonimni radnici. Umjesto njih, digitalni umjetnik Džejson Sajler je, po narudžbi Timea, preko fotografije "preložio" lica takozvanih "arhitekata vještačke inteligencije": Džensena Huanga iz kompanije Nvidia, Sema Altmana iz OpenAI-ja, Ilona Maska iz xAI-ja, Marka Zakerberga iz Mete, Demisa Hasabisa iz Google DeepMinda, Darija Amodeija iz Anthropica, Fei-Fei Li sa Stanforda i Lise Su iz kompanije Advanced Micro Devices. Naslovna strana je duhovita i kontroverzna, a komičar Džimi Kimel ju je opisao riječima "osam štrebera apokalipse". I upravo time što prati tehnološku putanju od čeličnih nebodera do mašina koje misle, ona možda otkriva i više nego što su urednici uopšte i namjeravali.

Originalna fotografija, snimljena na gradilištu Rokfeler centra, bilježi jedan poseban trenutak modernosti i sažima vjerovanje da inženjerska moć na kraju može da nadjača rizik; da tehnološki napredak opravdava svaku vrtoglavicu koju izaziva; da je neko, negdje, izračunao granice bezbjednosti. Ono što fotografija ne prikazuje jesu skele, zaštitne mreže i institucije - od programa Nju dil Frenklina Ruzvelta do Beveridžovog izvještaja (koji je doveo do osnivanja britanske Nacionalne zdravstvene službe) - zahvaljujući kojima su takvi poduhvati mogli da se

održe. Takođe, ne prikazuje ni mnoge radnike koji su pali - mnogi metaforički, neki doslovno - prije nego što su zaštite uopšte i postojale.

U trenutku kada se o regulaciji vještačke inteligencije žustro raspravlja, nedostatak zaštite pogađa pravo u suštinu problema. Još jednom se nalazimo na uskoj gredi, ovog puta razapeti između potencijala vještačke inteligencije i stvarnosti institucionalnog zamora i zagrijevanja planete. Ipak, mnogi su odlučili da slave graditelje, zanemarujući pritom daleko važnije pitanje: ko upravlja tom izgradnjom i sa kojim ciljem?

Uporedimo, na primjer, kontrast između Timeovog slavlja i tihog neuspjeha ovogodišnje Konferencije Ujedinjenih nacija o klimatskim promjenama (COP30), koja je obilježila desetu godišnjicu Pariskog klimatskog sporazuma. Dok se novi sistemi vještačke inteligencije treniraju, primjenjuju i šire u roku od nekoliko mjeseci, klimatsko upravljanje ostaje zaglavljeno u procedurama koje se razvlače decenijama. A nauka je u međuvremenu postala jasnija - opasnost više nije samo postepeno zagrijevanje, približavamo se onome što Johan Rokstrom naziva scenarijem "Užarene Zemlje" (Hothouse Earth): prelomne tačke (topljenje ledenih pokrivača, otapanje permafrosta, kolaps šuma) koje pokreću povratne interakcije i guraju planetu u znatno toplije, nestabilno stanje, izmičući smislenoj ljudskoj kontroli.

Naslovnica Tajma
Naslovnica Tajmafoto: Rojters

To bi ne bio neuspjeh inteligencije, već još jednog elementa u metafori sa Timeove naslovne strane: usklađenosti. U arhitekturi, usklađenost se odnosi na to da li su oblik, funkcija i vrijednosti neke strukture usmjereni u istom pravcu. Dobro usklađena zgrada usmjerava kretanje, raspoređuje opterećenja i jasno signalizira svrhu; loše usklađena, naprotiv, stvara zagušenja, naprezanja i rizik od urušavanja, čak i kada izgleda spektakularno. Savremena društva su sve više neusklađena upravo na ovaj način. Naše tehnologije se šire brže od naših institucija, a naše tehničke sposobnosti uporno nadmašuju naš pristanak.

Ovaj arhitektonski motiv posebno je prikladan u trenutku kada se mnogi komentatori - od Jonija Apelbauma iz The Atlantica do Ezre Klajna iz New York Timesa - okreću gradnji kao metafori za "izobilje". Infrastruktura koja podržava vještačku inteligenciju gradi se u sopstvenom stakleniku žestoke tržišne konkurencije, obilja kapitala, geopolitičkog rivalstva i kulture brzine. Te sile jesu snažno međusobno usklađene, ali su pogubno neusaglašene sa postojećim mehanizmima koji treba da obezbijede demokratsku odgovornost, dugoročno upravljanje rizicima i javni legitimitet. Slično tome, institucije klimatskog upravljanja ostale su usklađene sa sporijim, tolerantnijim svijetom od onog koji opisuje Rokstrom.

Ove nedosljednosti dodatno pojačavaju netransparentnost. Sve više smo prepušteni sistemu "crne kutije" - bilo da su to algoritmi koji oblikuju kreditne i informacione tokove ili klimatski modeli koji se moraju prevesti na diplomatski jezik - koji daje moć bez objašnjenja. Kada je rezultate nemoguće razumjeti ili osporiti, legitimitet se kruni. Populizam ne jača zato što ljudi odbacuju stručnost, već zato što njima upravljaju sistemi koji zahtijevaju slijepo povjerenje.

Fotografija ručka na gredi ovo savršeno oslikava. Implikuje se da su proračuni već urađeni. Očekuje se da treba da se divimo hrabrosti lidera vještačke inteligencije, bez postavljanja dosadnih pitanja o njihovim planovima. Istorija ovdje šalje upozorenje. Kultura industrijske revolucije takođe je stavljala graditelje ispred upravljanja. Mašine su se pojavile prije zakona o radu, a finansije prije regulacije.

Ali koliko god ozbiljni bili poremećaji koji su uslijedili, šteta je na kraju bila obuzdana. U slučaju rizika povezanih sa vještačkom inteligencijom i klimatskim promjenama, margina greške je minimalna, ali će posljedice biti dugoročnije. Pristup "spržene zemlje" - izvlačenje vrijednosti maksimalnom brzinom - postao je egzistencijalno neodgovoran. Ključno pitanje 21. vijeka više nije da li čovječanstvo može da izgradi izuzetne sisteme. Pitanje je da li ih možemo uskladiti - tehnički, institucionalno i moralno - prije nego što izmaknu kontroli.

Ljudi sa grede preživjeli su zato što je, na kraju, njihovo društvo izgradilo nevidljivu arhitekturu (standardе, zaštitne mjere, kulturu zajedničke odgovornosti) koja omogućava hrabre poduhvate. Samo mačizam ne bi bio dovoljan. Time nam je dao moćnu, iako uznemirujuću, sliku. Povezuje današnji euforični AI bum sa najbolje upamćenim kapitalističkim slomovima, i tako postavlja implicitno pitanje: hoćemo li biti u stanju da stvorimo institucije koje omogućavaju preživljavanje na ovim visinama, ili ćemo nastaviti da miješamo vrtoglavicu sa futurističkim vizijama?

Autorka je profesorica empirijskih pravnih studija na Univerzitetu Kembridž i gostujuća profesorica na Univerzitetu Harvard

Copyright: Project Syndicate, 2026. (prevod: N. R.)

Bonus video:

(Mišljenja i stavovi objavljeni u rubrici "Kolumne" nisu nužno i stavovi redakcije "Vijesti")