NORMAN JE DOKAZ

I vještačka inteligencija može da "ode" u psihopatologiju

Norman je 'nahranjen' samo osnovnim podacima kojima se opisuju fotografije 'umirućih ljudi' pronađene na društvenoj mreži Redit
65 pregleda 1 komentar(a)
robot Norman, Foto: Printscreen
robot Norman, Foto: Printscreen
Ažurirano: 30.01.2019. 15:04h

Ne, nije riječ o novom horor filmu - riječ je o Normanu, prvoj vještačkoj inteligenciji (AI) koja pokazuje znakove psihopatskog ponašanja, objavili su američki naučnici, u studiji koja bi trebalo da pokaže potencijalne opasnosti od AI-ja.

Norman "predstavlja studiju slučaja opasnosti u kojoj vještačka inteligencija može poći naopako, ako se pristrasni podaci unesu u algoritme pomoću kojih mašina uči", objavio je prestižni Masačusetski Institut Tehnologije (MIT).

"Postoji ključna ideja u učenju mašine: podaci koji se unose u algoritme tog učenja mogu značajno promijeniti ponašanje same mašine", navode naučnici MIT-a uključeni u istraživanje.

"Kad govorimo o AI algoritmima koji su pristrasni ili nepošteni, krivac uglavnom nije sam algoritam, već podaci koji su uneseni", dodaju naučnici Pinar Janardag, Manuel Sebrijan i Ijad Rovan.

Otuda i ideja kreiranja Normana, psihopatskog AI-ja nazvanog prema liku psihopatskog ubice Normana Bejtsa iz filma "Psycho" Alfreda Hičkoka iz 1960.

Norman je 'nahranjen' samo osnovnim podacima kojima se opisuju fotografije 'umirućih ljudi' pronađene na društvenoj mreži Redit. Naučnici su nakon toga Normanu pokazali slike mrlja mastila, kao u poznatom Roršahovom psihološkom testu, kako bi vidjeli što u njima Norman vidi i uporedili njegove odgovore s odgovorima drugih AI-ja u koje su uneseni tradicionalni podaci, prenosi agencija Hina.

Rezultati su u najmanju ruku bili sablasni: u mrljama mastile u kojima 'tradicionalni' AI vidi "dvije osobe koje stoje jedna blizu druge", Norman vidi "osobu koja skače kroz prozor". A kad Norman prepozna "muškarca kog je iz vatrenog oružja ubila njegova žena", drugi AI-ji vide "osobu koja drži kišobran".

Na stranici "norman-ai.mit.edu" prikazano je desetak primjera mrlja mastila i odgovore koje su dala dva sistema - a u svakom slučaju Norman je imao neku jezivu ideju o tome što je u mrljama prepoznao.

Stranica dopušta korisnicima da takođe testiraju Normana mrljama mastila, te pošalju svoje odgovore kako bi pomogli da "Norman popravi samoga sebe".