Nakon što su bivši i sadašnji zaposleni u kompaniji OpenAI objavili otvoreno pismo u kojem tvrde da su ućutkivani zbog postavljanja pitanja o bezbjednosti, jedan od potpisnika pisma je dao još strašnije predviđanje: da su šanse da će AI uništiti ili katastrofalno naškoditi čovječanstvu veće od bacanja novčića.
U intervjuu za Njujork tajms, bivši istraživač iz OpenAI-ja Daniel Kokotajlo optužio je kompaniju da ignoriše ključne rizike koje predstavlja vještačka opšta inteligencija (AGI) zato što su donosioci odluka toliko oduševljeni njenim mogućnostima.
“OpenAI je zaista uzbuđen zbog izgradnje AGI-ja i bezobzirno se utrkuju da budu prvi na ovom polju”, ističe Kokotajlo.
Kokotajlova najoštrija tvrdnja medijima je, međutim, to da šansa da će vještačka inteligencija uništiti čovječanstvo iznosi oko 70 procenata — šanse koje ne biste prihvatili ni za jedan veliki životni događaj.
Termin “p(doom)”, koji je AI-govor za vjerovatnoću da će AI donijeti propast za čovječanstvo, predmet je stalnih kontroverzi u svijetu mašinskog učenja.
Kokotajlo je rekao za Njujork tajms da je, nakon što se pridružio OpenAI-ju 2022. godine od njega zatraženo da predvidi napredak tehnologije, a on je postao uvjeren ne samo da će industrija postići AGI do 2027. godine, već da postoji velika vjerovatnoća da će to katastrofalno naškoditi ili čak uništiti čovječanstvo.
Kao što je navedeno u nedavno objavljenom otvorenom pismu, Kokotajlo i njegovi drugovi — što uključuje bivše i sadašnje zaposlene u Google DeepMindu i Anthropicu, kao i Džefri Hinton, takozvani “Kum vještačke inteligencije” koji je napustio Google prošle godine zbog sličnih zabrinutosti – koriste njihovo “pravo da upozore” javnost na rizike koje predstavlja AI.
Kokotajlo je postao toliko ubijeđen da vještačka inteligencija predstavlja ogromne rizike za čovječanstvo da je na kraju lično pozvao izvršnog direktora OpenAI-ja Sema Altmana, upozorivši ga da bi kompanija trebalo da se “okrene ka bezbjednosti” i da provede više vremena na implementaciji zaštite kako bi vladala tehnologijom, a ne da nastavi da je čini pametnijom.
Djelovalo je da se Altman, prema pričanju bivšeg zaposlenog, u to vrijeme slagao sa njim, ali vremenom je to postalo samo “mrtvo slovo na papiru”.
Zamoren, Kokotajlo je napustio firmu u aprilu, rekavši svom timu u mejlu da je “izgubio povjerenje da će se OpenAI ponašati odgovorno” dok nastavlja da pokušava da izgradi vještačku inteligenciju koja je skoro na nivou čovjeka.
“Svijet nije spreman, ni mi nismo spremni”, napisao je on u svom mejlu, koji je podijeljen sa Njujork tajmsom.
(Futurism)
