Geoffrey Hinton, računarski naučnik poznat kao “Kum vještačke inteligencije,” tvrdi da bi strojevi poboljšani umjetnom inteligencijom “mogli preuzeti kontrolu” ako ljudi ne budu oprezni.
Tehnologije umjetne inteligencije koje se brzo razvijaju mogle bi steknuti sposobnost da nadmaše ljude “za pet godina”, rekao je Hinton, 75, u intervjuu za emisiju “60 minuta” na CBS-u. Ako se to dogodi, AI bi mogao evoluirati izvan sposobnosti ljudi da ga kontroliraju, dodao je.
“Jedan od načina na koji ovi sistemi mogu izmaći kontroli je pisanje vlastitog programskog koda za modificiranje samih sebe”, rekao je Hinton. “I to je nešto o čemu ozbiljno trebamo brinuti.”, piše cnbc.com.
Hinton je dobio Turingovu nagradu 2018. godine za desetljeća pionirskog rada na području umjetne inteligencije i dubokog učenja. Otpustio se s posla potpredsjednika i inženjerskog kolege u Googleu u svibnju, nakon desetljeća rada u toj firmi, kako bi mogao slobodno govoriti o rizicima koje predstavlja AI.
- Oglas -
Ljudi, uključujući naučnike poput njega koji su pomogli izgraditi današnje AI sisteme, još uvijek potpuno ne razumiju kako ta tehnologija radi i evoluira, rekao je Hinton. Mnogi istraživači umjetne inteligencije otvoreno priznaju nedostatak razumijevanja u tom polju: u aprilu je Sundar Pichai, izvršni direktor Googlea, to nazvao “crnom kutijom” problema umjetne inteligencije.
Kako je to opisao Hinton, naučnici dizajniraju algoritme za AI sustave kako bi dobili informacije iz skupova podataka, poput interneta. “Kada ovaj algoritam napravi interakciju s podacima, proizvodi složene neuronske mreže koje su dobre u obavljanju određenih stvari”, rekao je. “Ali mi stvarno ne razumijemo tačno kako one to rade.”
No, ne misle svi tako kao on
Sundar Pichai i drugi stručnjaci za umjetnu inteligenciju ne čine se toliko zabrinutima kao Hinton zbog gubitka kontrole nad tehnologijom. Yann LeCun, još jedan dobitnik Turingove nagrade nazvao je bilo kakva upozorenja da bi AI mogao zamijeniti čovječanstvo “apsurdno besmislenima” – jer ljudi uvijek mogu zaustaviti svaku tehnologiju koja postane preopasna.
“Najgori scenarij nije siguran, a industrije poput zdravstva već su ogromno profitirale od AI-a”, naglasio je Hinton.
Hinton je također primijetio širenje dezinformacija potpomognutih vještačkom inteligencijom, lažnih fotografija i videozapisa na internetu. Pozvao je na više istraživanja kako bi se razumjela vještačka inteligencija, na vlade da regulišu tehnologiju i na globalne zabrane vojnih robota pokretanih vještačkom inteligencijom.
Na sastanku na Capitol Hillu prošlog mjeseca, zakonodavci i izvršni direktori tehnoloških firmi poput Pichaia, Elona Muska, Sama Altmana iz OpenAI i Marka Zuckerberga predložili su slične ideje dok su raspravljali o potrebi ravnoteže između regulacija i inovativnih politika vlade.
Sve što se odnosi na ograničenja AI-a, bilo da ih postavljaju tehnološke tvrtke ili obaveznim nalogom savezne vlade SAD-a, trebalo bi se dogoditi uskoro, rekao je Hinton. Čovječanstvo je vjerovatno na “vrsti prekretnice”, dodao je Hinton, napominjući da lideri u tehnologiji i vladi moraju odrediti “hoće li dalje razvijati ove stvari i šta učiniti da se zaštite ako to učine”.