AI podstiče strah od nove trke u biološkom naoružanju

Među sve većim strahovima u vezi sa vještačkom inteligencijom (AI), jedna prijetnja izaziva posebnu zabrinutost: mogućnost da se AI iskoristi za razvoj nove generacije biološkog oružja.

Upozorenja su se posljednjih mjeseci nizala. Stručnjaci za biobezbjednost su upozorili u aprilu da je zabrinjavajuće lako od četbotova dobiti savjete o tome kako patogene učiniti opasnijim, dok su u junu naučnici i rukovodioci AI kompanija zatražili strožu kontrolu proizvodnje DNK zbog mogućnosti da AI ubrza dizajniranje toksina i virusa.

U avgustu su naučnici objavili da su uz pomoć AI stvorili viruse koji ne postoje u prirodi, a kompanija Antropik je potom saopštila da je blokirala nekoliko pokušaja korišćenja svojih modela od strane ljudi koji su možda pokušavali da patogene pretvore u oružje.

Direktor Antropika Dario Amodei zatim je pozvao na usporavanje razvoja AI i ocijenio da bi trebalo zabraniti "korišćenje AI za proizvodnju biološkog oružja ili omogućavanje korisnicima da to čine".

"Njujork tajms" piše da ova dešavanja mogu da ostave utisak da bi zlonamjerni akteri, zahvaljujući AI, sada mogli da izazovu nove, do sada nepoznate epidemije.

Međutim, Dru Endi, sintetički biolog sa Univerziteta Stanford i koautor prošlogodišnjeg izvještaja o biobezbjednosti, kaže da današnji četbotovi, poput Antropikovog Kloda, ne predstavljaju prekretnicu kada je riječ o prijetnji od biološkog oružja.

"Kada je riječ o ukupnom uticaju na rizik po biobezbjednost u ovom trenutku, smatram da je on skroman", rekao je Endi.

To bi, dodao je, moglo da se promijeni kako naučnici budu razvijali AI modele specijalizovane za biološka istraživanja.

"Tajms" navodi da takvi modeli već mogu da generišu genome funkcionalnih virusa koji ne postoje u prirodi i da bi jednog dana mogli da koriste takve genome i za stvaranje novog biološkog oružja.

Biološko oružje može biti virus ili drugi patogen, poput bakterija ili gljivica, namijenjen napadu na vojsku ili civile. Može se zasnivati i na toksinima koje proizvode organizmi, poput botulinum toksina iz bakterija ili ricina iz biljke ricinus.

Za razliku od njih, hemijsko oružje, poput nervnih agenasa, proizvodi se hemijskom sintezom u laboratorijama.

"Tajms" podsjeća da su vojske još u srednjem vijeku pokušavale da koriste bolesti kao oružje. Mongoli su 1346. godine katapultima izbacivali tijela ljudi umrlih od bubonske kuge u grad Kafa na Crnom moru.

Pet vjekova kasnije, nakon razvoja teorije o mikroorganizmima kao uzročnicima bolesti, takvi pokušaji su postali znatno sofisticiraniji. Tokom Prvog svjetskog rata njemački špijuni su u Sjedinjene Države i druge zemlje krijumčarili bočice sa bakterijama, koje su koristili za ubijanje hiljada konja i mazgi.

Ženevski protokol je zabranio biološko ratovanje, ali su velike sile uprkos tome nastavile da razvijaju biološko oružje. SAD i Sovjetski Savez su vremenom nagomilali ogromne zalihe, od bombi sa antraksom do balona napunjenih gljivicama koje uništavaju pšenicu.

Nakon potpisivanja Konvencije o biološkom oružju 1975. godine, SAD su uništile svoje velike zalihe, ali su nastavile da proučavaju biološko oružje radi razvoja odbrane od njega. Sovjetski Savez je, s druge strane, u tajnosti nastavio istraživanja patogena, poput virusa velikih boginja, za potrebe nove generacije biološkog oružja.

Sve to pokazuje da je prijetnja od biološkog oružja bila veoma stvarna mnogo prije pojave OpenAI-ja i Antropika, navodi američki list. Ipak, koliko je javno poznato, biološko oružje je od Drugog svjetskog rata izazvalo veoma malo smrtnih slučajeva, iz razloga koji i dalje nijesu sasvim jasni.

"Ne znamo šta je pokušano pa nije uspjelo, šta je spriječeno, niti šta je bilo tehnološki previše zahtjevno", rekao je Tomas Inglesbi, direktor Centra za zdravstvenu bezbjednost Univerziteta Džons Hopkins.

Ta prijetnja i dalje postoji, dodao je Inglesbi, ističući da onaj ko danas pokuša da napravi biološko oružje može da koristi moćne alate o kojima su prethodne generacije mogle samo da sanjaju.

"Tajms" piše da je sinteza DNK postala brža i jeftinija i podsjeća da su kanadski naučnici 2016. objavili da su ponovo stvorili virus konjskih boginja, srodan velikim boginjama, koji je prethodnih decenija nestao iz prirode. Sekvence njegovog genoma poslali su kompaniji za sintezu DNK, a dobijene molekule sastavili u virusni genom iz kojeg je u ćelijama nastao funkcionalni virus.

Tada je to smatrano izuzetnim, mada uznemirujućim dostignućem. Napredak u sintezi DNK i drugim tehnologijama danas je takve poduhvate učinio još jeftinijim i jednostavnijim.

Onaj ko danas pokuša da napravi biološko oružje može da koristi moćne alate o kojima su prethodne generacije mogle samo da sanjaju

Četbotovi, u međuvremenu, mogu da pretražuju naučnu literaturu i odgovaraju na pitanja koja bi mogao imati neko ko pokušava da razvije biološko oružje. Inglesbi kaže da AI u tome može biti veoma efikasna i zlonamjernim akterima pružiti znatno više nego obična internet pretraga.

"AI nastoji da informacije učini upotrebljivim", rekao je Inglesbi, dodajući da korisnicima omogućava da neograničeno postavljaju dodatna pitanja, traže detaljnija objašnjenja i dobiju odgovarajuće tehničke izvore.

Dru Endi je pozdravio to što Antropik provjerava upite zbog mogućih opasnih namjera.

"Djeluje da tim u Antropiku pokušava da postupi odgovorno. Imaju novi alat i pokušavaju da ga koriste na odgovoran način", rekao je.

Veliki jezički modeli kompanija poput Antropika trenirani su na ogromnim količinama teksta, uključujući naučne radove prethodnih generacija. Mogu brzo da pronađu informacije i uoče veze između ranijih otkrića, ali nemaju dublje razumijevanje biologije izvan postojećeg znanja.

Drugi istraživači, međutim, razvijaju AI modele koji se treniraju direktno na podacima o DNK i ćelijama i tako u određenoj mjeri sami "uče" biologiju.

Jedan od njih je Evo2, model koji su naučnici sa Stanforda i instituta Ark trenirali na DNK sekvencama miliona vrsta. Model je prepoznao skrivene obrasce u genima, što je omogućilo stvaranje novih vrsta enzima.

"Tajms" navodi da je to navelo naučnike da se zapitaju da li bi mogli da stvore nove genome sposobne da podrže život. Istraživači su zato Evo2 dodatno trenirali na genomima jedne grupe blisko srodnih virusa.

Ti virusi, poznati kao mikroviridi, bezopasni su za ljude i inficiraju samo bakteriju ešerihija koli. Evo2 je generisao stotine hiljada novih genoma mikrovirida, od kojih je 16 dovelo do nastanka stvarnih virusa.

Kako bi smanjili rizike, tvorci Evo2 nijesu ga trenirali na virusima koji inficiraju ljude ili njima srodne vrste. Teoretski, međutim, takva verzija modela mogla bi da proizvede neku varijantu virusa velikih boginja.

Ipak, kako ističe "Tajms", to ne bi bio nimalo jednostavan zadatak: genom virusa velikih boginja je 35 puta veći od genoma mikrovirida. Čak i kada bi takav pokušaj uspio, rezultat bi bila samo varijanta virusa koji je još osamdesetih godina prošlog vijeka već bio pretvoren u biološko oružje.

Ipak, Inglesbi je ocijenio da bi, bez odgovarajućih zaštitnih mjera, programi poput Evo2 mogli postati korisniji za razvoj novog biološkog oružja.

"Uz dovoljno podataka za treniranje, ovi AI sistemi moći će da predviđaju smrtonosnije i zaraznije varijante, sposobne da izbjegnu imuni odgovor", rekao je Inglesbi.

Strahuje i da bi modeli jednog dana mogli da stvaraju viruse koji ne bi bili samo varijante postojećih, već bi se suštinski razlikovali od onih koji postoje u prirodi.

Vijest koju je ove nedjelje objavio Antropik izazvala je, međutim, neposredniju zabrinutost stručnjaka za biobezbjednost: čini se da su upiti o gripu i drugim patogenima dolazili iz državnih laboratorija, a ne od pojedinačnih biohakera.

"Mogućnost da jedan doktorand zloupotrijebi model i nanese štetu samo je mali dio problema", rekao je Inglesbi.

Endi strahuje da bi vlade, ukoliko počnu da koriste AI za istraživanja biološkog ratovanja, mogle da podstaknu novu trku u naoružanju nalik onoj iz vremena Drugog svjetskog rata.

"Danas živimo u svijetu u kojem američki Stejt department optužuje Sjevernu Koreju i Rusiju da imaju takve programe, a sumnja i na Iran i Kinu", rekao je. "Istovremeno, Kina optužuje SAD i Rusiju. To se prije deset godina nije dešavalo."

Endi i Inglesbi su saglasni da se mnogo toga može učiniti kako bi se smanjio rizik od katastrofe. Države su i ranije pregovarale o sporazumima o biološkom oružju, a to mogu pokušati i sada.

„Tajms“ piše da je administracija Džoa Bajdena uvela pravila prema kojima su kompanije za sintezu DNK morale da provjeravaju narudžbine kako bi otkrile sumnjive sekvence. Administracija Donalda Trampa je suspendovala ta pravila prošle godine i još nije donijela nove standarde.

Endi smatra da nije dovoljno samo pokušavati da se spriječi upotreba biološkog oružja.

„Moramo da odemo korak dalje i učinimo samu biologiju bezbjednijom“, rekao je.

To podrazumijeva pronalaženje načina da se zaštitimo od svih vrsta epidemija, bilo da ih je izazvao čovjek ili su nastale prelaskom patogena sa životinja na ljude. Endi smatra da bi javni prostori poput bolnica i škola, na primjer, trebalo da budu opremljeni senzorima koji mogu da otkriju prijetnje koje se prenose vazduhom.

„Ako znam da se u prostoru u kojem se nalazim nalazi virus koji se prenosi vazduhom, mogu da reagujem u skladu s tim“, rekao je Endi. „Ti biološki rizici nijesu nikakva magija.“

( A.Š. )