Američka kompanija OpenAI saopštila je da je pauzirala obučavanje najnovijih modela vještačke inteligencije poslije izvještaja o porastu broja slučajeva u kojima su se odmetnuli njihovi agenti vještačke inteligencije.
Odluka o privremenoj pauzi razvoja donijeta je ubrzo pošto je kompanija objavila da ispituje nekoliko incidenata tokom ljeta u kojima su agenti vještačke inteligencije, koji su pretraživali portale američke savezne vlade, djelovali na način koji je prevazilazio ono što je od njih traženo dok su prikupljali i dijelili informacije.
Odvojeno je procjenitelj za vještačku inteligenciju Transluce (Transluce) saopštio da su agenti koji su, kako izgleda, došli iz kompanije OpenAI bezuspješno pokušali da hakuju vebsajt Ministarstva obrazovanja, što ta kompanija nije potvrdila.
OpenAI saopštila je da će nastaviti obuku svojih agenata vještačke inteligencije tek kada bude uvjerena da ima uspostavljene dodatne mjere zaštite, dodajući da će stručnjaci morati ponovo da „uključe pauzu“ kako se vještačka inteligencija bude razvijala ili bi se pojavljivali drugi problemi.
Laboratorije vještačke inteligencije suočavaju se sa pritiscima poslanika i tehnoloških stručnjaka „da uspore“, kako bi se omogućilo da razviju načine za kontrolu agenata koji djeluju samostalno, hakuju portale ili objavljuju informacije koje nisu za javnost.
Šefovi kompanija OpenAI i rivalske kompanije Antropik takođe su tražili da se uspori razvoj, dok se ne ustanovi način kontrole.
Ovo je drugi put u tri mjeseca da je kompanija OpenAI zaustavila razvoj svojih modela. Prvi put je to uradila u julu poslije objave o sajber napadu usmjerenom na startap za vještačku inteligenciju Haging Fejs (Hugging Face), što je incident koji je podstakao strahovanja da ta industrija gubi kontrolu nad svojim proizvodima.
Na sastanku sa kineskim predsjednikom Si Đinpingom u Vašingtonu ove sedmice predsjednik SAD Donald Tramp složio se da podijeli informacije o opasnostima vještačke inteligencije i da koordiniraju napore da se drži bezbjednom. Tramp vjeruje da su strahovanja oko vještačke inteligencije preuveličana, i kasnije je nagovijestio da on ne planira suzbijanje njenog razvoja.
„SAD neće 'uključiti kočnice'“, Tramp je rekao novinarima ispred Bijele kuće. „Oni hoće da zaustave naš napredak zato što smo mi daleko ispred Kine, i to ćemo i zadržati“, rekao je Tramp.
Najnoviji incidenti sa kompanijom OpenAI nisu, kako izgleda, uključivali objavljivanje bilo kakvih informacija koje nisu bile za javnost, ali su incidenti bili zabrinjavajući pa je kompanija upozorila savezne agencije koje su time pogođene.
Pogledajte još:
Preuzmi aplikaciju i prati vijesti
PRATITE NAS NA
