Gugl je stavio jednog od svojih inženjera na plaćeno administrativno odsustvo zbog navodnog kršenja njegove politike poverljivosti nakon što je javno izjavio da je postao zabrinut oko sistema za razgovor sa veštačkom inteligencijom koja je dostigla razum, prenio je Vašington Post.
Inženjer, Blejk Limojn, radi za Guglovu odgovornu AI organizaciju i testirao je da li njen LaMDA model generiše diskriminatorski jezik ili govor mržnje.
Zabrinutost inženjera je navodno izrasla iz ubjedljivih odgovora da je vidio sistem vještačke inteligencije koji generiše o svojim pravima i etici robotike.
U aprilu je podelio dokument sa rukovodiocima pod naslovom „Da li je LaMDA osećajna?“ koji sadrži transkript njegovih razgovora sa AI (nakon što je stavljen na odsustvo, Limojn je objavio transkript preko svog naloga na Medijumu), za koji tvrdi „da je osjećajan jer ima osjećanja, emocije i subjektivno iskustvo“.
Gugl vjeruje da su Limojnove radnje u vezi sa njegovim radom na LaMDA-i prekršile njegovu politiku povjerljivosti.
Navodno je pozvao advokata da predstavlja sistem vještačke inteligencije i razgovarao sa predstavnikom pravosudnog odbora Predstavničkog doma o navodnim neetičkim aktivnostima u Guglu.
U postu od 6. juna, na dan kada je Limojn stavljen na administrativno odsustvo, inžinjer je rekao da je tražio „minimalni iznos spoljnih konsultacija koje bi mu pomogle da vodi istragu“ i da lista ljudi sa kojima je razgovarao uključuje vladu SAD zaposlenih.
Gigant za pretragu je javno najavio LaMDA na Google I/O prošle godine, za koji se nada da će poboljšati svoje konverzacijske AI asistente i omogućiti prirodnije razgovore.
Kompanija već koristi tehnologiju sličnog jezičkog modela za Gmail-ovu funkciju Smart Compose ili za upite pretraživača.
U izjavi datoj Vašington Postu, portparol Gugla je rekao da nema „dokaza“ da je LaMDA razuman.
Naš tim, uključujući etičare i tehnologe, pregledao je Blejkovu zabrinutost u skladu sa našim principima vještačke inteligencije i obavestio ga da dokazi ne podržavaju njegove tvrdnje. Rečeno mu je da nema dokaza da je LaMDA razumna (i mnogo dokaza protiv toga) – rekao je portparol Brajan Gabrijel.
Naravno, neki u široj zajednici AI razmatraju dugoročnu mogućnost razumne ili opšte vještačke inteligencije, ali nema smisla to činiti antropomorfizacijom današnjih konverzacijskih modela, koji nisu razumni – rekao je Gabrijel.
Ovi sistemi imitiraju vrste razmjene koje se nalaze u milionima rečenica i mogu da se bave bilo kojom fantastičnom temom.
Stotine istraživača i inženjera razgovaralo je sa LaMDA-om i nismo svesni da je neko drugi iznosio široke tvrdnje ili antropomorfizovao LaMDA, na način na koji je Blejk – rekao je Gabrijel.
Profesorka lingvistike složila se da je netačno poistovećivati ubjedljive pisane odgovore sa razumom.
Sada imamo mašine koje mogu bezumno da generišu riječi, ali nismo naučili kako da prestanemo da zamišljamo um iza njih – rekla je profesorka Univerziteta u Vašingtonu Emili M. Bender.
Timnit Gebru, istaknuti etičar veštačke inteligencije kojeg je Gugl otpustio 2020. (iako gigant tvrdi da je ona dala otkaz), rekla je da rasprava o osjećaju vještačke inteligencije rizikuje da „izvuče iz kolosjeka” važnije etičke razgovore o upotrebi vještačke inteligencije.
„Umjesto da se raspravlja o šteti ovih kompanija, seksizmu, rasizmu, kolonijalizmu vještačke inteligencije, centralizaciji moći, (izgradnja dobrog „AGI“ [vještačke opšte inteligencije] da nas spase dok ono što rade je eksploatisanje), potrošili su cio vikend raspravljajući o osjećaju“, napisala je ona na Tviteru.
Misija iskakanja iz šina je ostvarena.
Uprkos zabrinutosti, Limojn je rekao da namjerava da nastavi da radi na vještačkoj inteligenciji u budućnosti.
Moja namjera je da ostanem u sferi veštačke inteligencije bez obzira da li me Gugl zadrži ili ne – napisao je u tvitu.
