Američka tehnološka firma Open AI odustala je od puštanja u opticaj naredne generacije modela vještačke inteligencije koje bilo planirano za oktobar zbog zabrinutosti oko bezbjednosti na koju su istraživači ukazali tokom internog testiranja.
Novi model kojije trebalo da se pojavi u ChatGPT i Kodeksu (Codex) bio je dizajniran da vrši kompleksnije radnje bez ljudske pomoći, prenosi Gardijan.
Ranije ovog mjeseca Dario Amodei, generalni direktor Antropika pozvao je AI industriju da uspori razvoj novih modela vještačke inteligencije da bi se omogućilo da bezbjednosne mjere drže korak sa tim razvojem. To je podržao i generalni direktor Open AI Sam Altman i Ilon Mask generalni direktor Spejseksa.
Kako se navodi u izvještaju komapnije Open Ai novi model nije ispunjavao standarde firme za usaglašavanje, po kojima se procjenjuje da li sistem slijedi ljudsku namjeru. Model je pokazivao da može više da vara nego model koji mu prethodi, nije tačno otkrivao akcije koje je preduzimao ili nije preduzimao, navodi se u izvještaju.
Imao je problem i sa obimom autorizacije, nastavljajući da obavlja zadatke bez traženja dozvole od korisnika i ponekad pokušavajući da koristi spoljne alatke ili usluge iako bi to moglo da ne bude bezbjedno.
Pogledajte još:
Preuzmi aplikaciju i prati vijesti
PRATITE NAS NA
