U Belgiji je nedavno pokrenuta debata oko upotrebe vještačke inteligencije, jer je Petra de Suter, rektorka Univerziteta u Gentu, koristila vještačku inteligenciju da napiše svoj uvodni govor za akademsku godinu prošlog septembra, ali njen tekst sadrži greške i dva izmišljena citata – to je ono što je poznato kao "halucinacija", prenio je belgijski javni servis RTBF.
Prema Petri de Suter, Albert Ajnštajn je navodno rekao: "Dogma je neprijatelj napretka." Osim što naučnik nikada nije izgovorio ovu rečenicu. Stoga je to halucinacija, lažna informacija koju vještačka inteligencija predstavlja kao istinitu.
Zamislite da, kako biste napisali govor, koristite ChatGPT. Tražite od njega da uključi citat Alberta Ajnštajna, na temu napretka. Moguća su dva scenarija: ili vam ponudi pravi citat, ili proizvede vjerodostojan citat, odnosno nešto što Ajnštajn nije rekao, ali je mogao.
Ig Bersini, profesor i direktor laboratorije za vještačku inteligenciju na belgijskom univerzitetu i objasnio je taj fenomen.
"Vještačka inteligencija je kombinovala Ajnštajnove citate kako bi stvorila novi koji ima smisla. Statistički gledano, Ajnštajn je to mogao reći. ChatGPT kombinuje riječi koje su često bile povezane zajedno. Ali, naravno, ovaj citat je lažan jer ga Ajnštajn nikada nije izgovorio", rekao je Bersini.
Kada kažemo da citat ima smisla, to znači da je to statistička konstrukcija. On spaja različite riječi koje su dio citata neke osobe, ali redosljed tih riječi ne postoji. Ajnštajn nikada nije rekao: "Dogma je neprijatelj napretka."
U slučaju citata, to je fatalna greška, prema riječima Iga Bersinija.
"To je očigledno nešto što apsolutno mora biti provjereno. A ako ste i rektor univerziteta, svakako morate da se pridržavate određenog etičkog kodeksa u vezi sa znanjem, a kada su u pitanju citati, apsolutno morate da provjerite njihovu vjerodostojnost", jer je uz nekoliko klikova na pretraživaču dovoljno da se dokaže greška.
Giganti vještačke inteligencije pokušavaju da smanje ove halucinacije.
U nekim oblastima one praktično ne postoje.
"Kada ima manje riječi, kao u programiranju i matematici. Rječnik je ograničeniji za egzaktne nauke, tako da vještačka inteligencija funkcioniše veoma dobro. Komplikovanije je kada je koristite za romane, eseje, filozofske tekstove ili govore. Riječi su raznovrsnije i mogu imati višestruka značenja", rekao je Bersini i dodao da je u ovim oblastima potreban dodatni oprez.
Nesrećno iskustvo Petre de Suter služi kao podsjetnik.
Vještačka inteligencija nas može prevariti. I ona pravi lapsuse, pošto je apsorbovala sve tekstove koji su joj dati. To je takođe svojstveno ljudskoj prirodi. Osim što ljudi razumiju koncept istine i laži, za razliku od vještačke inteligencije. Ona ne provjerava svoje izvore.
Dakle, na vama je da pažljivo obradite informacije koje prikupite i da u svakom trenutku vježbate svoje kritičko razmišljanje, dodao je Bersini.
Bonus video:
