Čarls upozorio na „egzistencijalne opasnosti“ vještačke inteligencije

Britanski kralj Čarls upozorio je danas lidere industrije vještačke inteligencije na „egzistencijalne opasnosti“ koje bi mogle nastati ako ta tehnologija dospije u pogrešne ruke, uz potencijalno katastrofalne posljedice, poručivši da su zaštitni mehanizmi potrebni prije nego što bude „prekasno“.

Čarls je u Škotskoj ugostio suosnivače kompanija Nvidia i Google DeepMind, kao i rukovodioce OpenAI-ja i Anthropica, u trenutku kada raste zabrinutost da napori za bezbjednost vještačke inteligencije zaostaju za razvojem sve moćnijih sistema.

Posljednjih nedjelja rasprava se usredsredila na pitanje može li i treba li industrija sama sebe da reguliše, a u debatu su se uključile i svjetske ličnosti, među kojima papa Lav XIV, Čarls i predsjednik SAD Donald Tramp.

Kontrola prije nego što bude prekasno

Čarls je kazao da vještačka inteligencija ima potencijal da poboljša i spasi živote, posebno u biološkim naukama i medicini.

Međutim, njeni tvorci sve češće upozoravaju da bi ona mogla da razvije i mračnije sposobnosti, „možda čak i da oduzima živote“, rekao je.

„Čini se da je hitno potrebno na odgovarajući način razmotriti egzistencijalne opasnosti od toga da takve tehnologije dospiju u pogrešne ruke i budu upotrijebljene na potencijalno katastrofalne načine“, rekao je liderima okupljenim na njegovom imanju Damfris Haus.

„Zar nam nijesu potrebna dovoljna sredstva kontrole prije nego što bude prekasno?“

Među učesnicima su bili osnivač i izvršni direktor Nvidije Džensen Huang, osnivač i predsjednik Google DeepMinda Demis Hasabis, finansijska direktorica OpenAI-ja Sara Frajar i britanski ministar za vještačku inteligenciju Kaniška Narajan.

Očekivalo se i prisustvo Paola Benantija, savjetnika pape koji je pozivao vlade da uspore razvoj vještačke inteligencije.

Debata o prijetnji čovječanstvu

Rasprava o vještačkoj inteligenciji ponovo je dospjela u središte pažnje nakon što su dvojica istraživača Anthropica upozorila da bi tehnologija koja brzo napreduje mogla da dovede do izumiranja čovječanstva u ne tako dalekoj budućnosti.

Izvršni direktor Anthropica Dario Amodei takođe je pozvao kompanije da uspore tempo razvoja vještačke inteligencije.

To je, međutim, pokrenulo međunarodnu raspravu o tome imaju li neki rukovodioci skrivene motive, poput uspostavljanja pravila koja bi očuvala prednost pojedinih kompanija, djelovanja sada kako bi se izbjegla šira reakcija vlada ili jednostavno usporavanja potrošnje u trci za razvoj vještačke inteligencije.

Iako se ne očekuje da sastanak u Škotskoj rezultira bilo kakvim obavezujućim sporazumima, a Čarls nije poznat po stručnosti u oblasti tehnologije, skup pokazuje kako on, prvo kao princ od Velsa, a sada kao kralj, koristi svoj položaj da okuplja učesnike u raspravama o nizu globalnih pitanja.

Govoreći o rizicima vještačke inteligencije, Čarls je upozoravao i na njen mogući uticaj na životnu sredinu, što je u skladu sa njegovim višedecenijskim angažmanom na zaštiti prirode.

Bakingemska palata saopštila je da će se u razgovorima razmatrati može li zajednički skup principa da usmjerava buduću primjenu vještačke inteligencije, „ne samo kao pokretača sposobnosti i efikasnosti, već i kao sredstva koje čuva ljudsko dostojanstvo i doprinosi napretku i ljudi i planete“.

( Rojters, N.B. )