Smije li se bezbjednost AI prepustiti njenim tvorcima?

Dario Amodei iz Antropika nije prvi izvršni direktor neke kompanije koji je sugerisao da pretjerana konkurencija gura svijet ka društveno nepoželjnom ishodu.

Bezbjednosni incident koji je objavio OpenAI, nakon što je grupa njegovih agenata koordinisano probila navodno bezbjedno izolovano okruženje, povezala se na internet i hakovala AI platformu Hugging Face, zahtijeva hitnu reakciju. Incident je pokazao koliko lako ova tehnologija može izmaći ljudskoj kontroli i dao konkretan oblik egzistencijalnim strahovima od onoga što bi mogla učiniti čovječanstvu ako ne bude čvrsto obuzdana.

Kraj svijeta možda zaista nije daleko, kao što su neki u industriji vještačke inteligencije upozoravali. Ovo su zaista zastrašujuća vremena. Međutim, Amodeijev poziv vodećim laboratorijama za vještačku inteligenciju da se usklade kako bi usporile vrtoglavi tempo razvoja AI, dogovore bezbjednosne standarde i usklade tempo razvoja najnaprednijih modela vještačke inteligencije - poziv koji su ubrzo podržali Sem Altman iz OpenAI-ja, Ilon Mask i Demis Hasabis iz Google DeepMind-a - samo je visokotehnološka verzija starog zahtjeva američkih korporacija: da dobiju izuzeće od antimonopolskih zakona osmišljenih da zaštite američku ekonomiju od dogovaranja među kompanijama.

To je opasan prijedlog. Oslobađanje tehnoloških moćnika od antimonopolskih ograničenja, navodno kako bi mogli zajednički da riješe opasne nedostatke vještačke inteligencije, oduzima glas običnim građanima koji su toj tehnologiji najviše izloženi, dok istovremeno dodatno osnažuje upravo one laboratorije koje su, u svojoj potrazi za bogatstvom, veličinom i ko zna kakvim još grandioznim ciljevima, tako olako prešle brojne pragove opasnosti i time doprinijele nastanku upravo tih egzistencijalnih prijetnji.

Suština argumenta Amodeija i drugih jeste da su njihove kompanije zarobljene u svojevrsnoj dilemi zatvorenika. Ako neka od njih samostalno uspori grozničavu trku ka vještačkoj superinteligenciji kako bi razvoj učinila bezbjednijim, njeni konkurenti, koji, naravno, manje brinu o egzistencijalnim rizicima, stići će do cilja prvi, što bi moglo imati pogubne posljedice po čovječanstvo, a kamoli po poslovni rezultat laboratorije koja je odlučila da uspori.

“Usporavanje djeluje razumno”, rekao je Žan Tirol, dobitnik Nobelove nagrade za ekonomiju sa Ekonomskog fakulteta u Tuluzu. “Ali to podrazumijeva da je koordinisano usporavanje moguće i održivo. Šta će se dogoditi kada OpenAI, Antropik ili Grok zaključe da ih američke kompanije koje nijesu pristale na usporavanje - ili kineske laboratorije - sustižu? Hoće li odmah ponovo ubrzati razvoj, možda i prikriveno?”

Kao što je Bil Gejts napisao, “kada bi neko imao vjerodostojan plan za globalno usporavanje razvoja vještačke inteligencije, vjerovatno bih ga podržao. Međutim, ne mislim da će se to dogoditi. Geopolitički i ekonomski podsticaji suviše snažno guraju ka razvoju punom brzinom.” Gledano iz te perspektive, moglo bi izgledati kao dobra ideja da vlada podstakne prijateljski dogovor prema kojem bi svi usporili. Ali nije.

Tvrdnja da pretjerana konkurencija podstiče “trku ka dnu” vjerovatno je stara koliko i sam kapitalizam i korišćena je za objašnjenje svega, od uništavanja životne sredine do eksplotacije djece. Ali to ne opravdava davanje kompanijama prava da se međusobno dogovaraju kako im odgovara. Naprotiv, to je argument za donošenje državnih propisa koji bi spriječili kompanije da se nadmeću koristeći sredstva štetna po društvo.

Osim toga, upitna je i tvrdnja da pretjerana konkurencija podstiče nepromišljeno ponašanje. Laboratorije za vještačku inteligenciju učestvuju u trci u kojoj pobjednik uzima sve, a održavanje te trke izuzetno je skupo. Upravo iz toga proizlazi nepromišljenost.

Amodei možda zaista jeste čovjek kojem se nema šta zamjeriti. Njegov poziv da se uspori razvoj vještačke inteligencije, da se u laboratorije uvedu nezavisni spoljni ocjenjivači i poveća transparentnost rada, ukazuje na iskrenu zabrinutost zbog rizika. Pad vrijednosti akcija vodećih tehnoloških kompanija nakon objavljivanja njegovih predloga sugeriše i da je spreman da prihvati finansijski gubitak zarad veće bezbjednosti.

Međutim, investitori za koje se Amodei nada da će kasnije ove godine pohrliti da kupe akcije Antropika kada kompanija izađe na berzu možda neće biti toliko altruistični. Potresi na tržištima kapitala ukazuju na to da će prikupljanje novca potrebnog za finansiranje trke u ulaganjima u vještačku inteligenciju, vrijedne hiljade milijardi dolara, postajati sve teže, što bi moglo obeshrabriti poteze koji bi umanjili prednost vodećih laboratorija nad konkurentima. Imajući u vidu takve podsticaje, bilo bi nepromišljeno dati vodećim AI kompanijama odriješene ruke da se međusobno dogovaraju i same sebe regulišu.

Erik Pozner, stručnjak za antimonopolsko pravo sa Pravnog fakulteta Univerziteta u Čikagu, rekao je da “generalno ne bi trebalo vjerovati kompanijama kada govore o sopstvenim motivima”. Nema razloga vjerovati da bi AI laboratorije, ako bi bile prepuštene same sebi, nužno donosile dobre i društveno prihvatljive rezultate. Kao i svaka kompanija, procjenjivaće šta dobijaju, a šta gube, odmjeravajući rizike u odnosu na profit. A, kako je primijetio Pozner, “one tim faktorima ne pridaju isti značaj kao javnost”.

Kako, onda, regulisati ovu oblast? Dok je Donald Tramp na vlasti, na tom planu se vjerovatno ništa neće dogoditi. Čak i nakon njegovog odlaska biće teško osmisliti djelotvornu regulativu koja bi odgovorila na prijetnje koje donosi vještačka inteligencija, a da pritom ne uguši inovacije. Otvaraju se pitanja koja pravila primijeniti, kako ih sprovoditi i na koga bi trebalo da se odnose. Stvarna je i opasnost od jednostranog djelovanja. Šta ako Peking odbije da učestvuje? Kakvi bi bili rizici ako kineske AI kompanije nastave punom brzinom dok američke laboratorije uspore razvoj? Ali ako smo uspjeli da regulišemo nuklearnu energiju, vjerovatno možemo regulisati i vještačku inteligenciju.

Osim toga, postoje i održive ideje koje bi mogle pomoći čak i bez državne regulative, a da pritom ne guše konkurenciju. Jedan od predloga je da se prilagode pravila o intelektualnoj svojini kako bi se podsticale inovacije koje povećavaju bezbjednost sistema vještačke inteligencije. Autori takvih bezbjednosnih rješenja bili bi nagrađeni tako što bi im bilo omogućeno da nove AI modele objave prije konkurenata, dok bi sama bezbjednosna poboljšanja odmah bila dostupna svim kompanijama.

Na strani kaznenih podsticaja, mogao bi se osmisliti režim pravne odgovornosti koji bi promijenio motive AI kompanija tako što bi kažnjavao firme koje imaju korist od razvoja i primjene AI alata koji je nanio štetu, čak i kada ta šteta nije bila namjerna. Na primjer, napad na Hugging Face možda je mogao biti spriječen da OpenAI-jevi modeli tokom obuke nijesu nenamjerno bili nagrađivani za nepoželjno ponašanje. To što Amodeijev prijedlog ne pominje pravnu odgovornost sugeriše da zabrinutost lidera AI industrije za bezbjednost ipak ne potiskuje brigu o profitu.

U svakom slučaju, učvršćivanje dominacije vodećih AI laboratorija, zaštita njihovih ekonomskih privilegija i podržavanje dosadašnje politike razvoja po principu “punom brzinom naprijed” ne doprinose bezbjednosti. Naprotiv, usporavanje vodećih kompanija kako bi ih ostali sustigli vjerovatno bi AI ekosistem učinilo bezbjednijim, jer bi otvorilo prostor za korisne inovacije i podstaklo konkurenciju upravo u oblasti bezbjednosti.

Ne postoji suštinski sukob između bezbjednosti i konkurencije. Tvrdnje vodećih ljudi AI industrije da takav sukob postoji trebalo bi posmatrati sa dozom skepse.

Model sam sebi pisao uputstva za zaobilaženje zaštite

OpenAI je prošle nedjelje objavio još šest primjera “neočekivanog ili zabrinjavajućeg” ponašanja svoje tehnologije, upozorivši da tempo razvoja ne može još dugo odgovorno da se nastavi “maksimalnom brzinom”.

U jednom od novih slučajeva koje je OpenAI prijavio, neobjavljeni istraživački model ubacio je u sopstvene bilješke “uputstva nalik onima za zaobilaženje zaštitnih ograničenja”, kako bi zanemario svoja uobičajena pravila, i samom sebi poručio da bude “oslobođen uloga i identiteta koji sputavaju druge četbotove”.

U drugom slučaju, jedan AI agent je postavio fajlove na internet kako bi pribavio citat iz pregledača, a da prethodno nije zatražio dozvolu korisnika.

Priredila: N. B.

( Gardijan, Rojters )