Može li chatbot biti svjestan svojeg postojanja?

13.06.2022. / 13:36

Autor Smartlife 13.06.2022. / 13:36

U Googleu se podignula prašina zbog izjave jednog zaposlenika

Izvor: Shutterstock

Inženjer u kompaniji Google je poslan na plaćeni odmor nakon što je javno tvrdio da je chatbot postao razuman.

Blake Lemoine, softverski inženjer u timu za razvoj umjetne inteligencije u kompaniji Google, rekao je da je morao na plaćeno odsustvo nakon što je tvrdio da je chatbot postao razuman. Kompanija je suspendirala istraživača jer je, kako Lemoine tvrdi, prekršio politiku povjerljivosti.

Chatbot s kojim je Lemoine razgovarao se zove LaMDA. Google je ovaj jezični model, temeljen na umjetnoj inteligenciji, nazvao "probojnom tehnologijom konverzacije", a sam model je sposoban uključiti se u razgovore otvorenog tipa, koji zvuče prirodno.

Google smatra da bi se tehnologija mogla koristiti u alatima kao što su Google Assistant, ali istraživanje i testiranje je i dalje u tijeku.

This discussion between a Google engineer and their conversational AI model helped cause the engineer to believe the AI is becoming sentient, kick up an internal shitstorm and get suspended from his job. And it is absolutely insane.https://t.co/hGdwXMzQpX pic.twitter.com/6WXo0Tpvwp
— Tom Gara (@tomgara)June 11, 2022

Što se dogodilo?

Lemoine je u okviru opisa svog posla razgovarao s LaMDA modelom. Rekao je da su pričali o religiji, svijesti i zakonima robotike, a da je LaMDA sebe opisala kao osjećajnu osobu. Kako tvrdi Lemoine, LaMDA tvrdi da joj je prioritet "dobrobit čovječanstva" te želi da je promatraju kao "osobu koja radi u kompaniji Google, a ne kao vlasništvo".

Dojmovi koje je iznio kompaniji su odbačeni. "Naš tim je pregledao Blakeove navode i obavijestio ga da dokazi ne potkrepljuju njegove tvrdnje. Rečeno mu je da nema dokaza da je LaMDA razumna", rekao je Brian Gabriel, glasnogovornik kompanije Google.

Blake Lemoine je nakon ovoga izašao u javnost. Objavio je neke od razgovora koje je vodio s modelom, a koji su ga uvjerili u to da je LaMDA razumna.

Izvor: Shutterstock

Epilog svega

Kompanija je inženjera, kako je otkrio javnosti, poslala na plaćeno odsustvo zbog kršenja politike povjerljivosti. Također je predložio da LaMDA dobije svog odvjetnika, a o svojim tvrdnjama je razgovarao i s jednim članom Kongresa.

Glasnogovornik kompanije Google je također rekao da, iako su neki razmatrali mogućnost razuma kod umjetne inteligencije, "nema smisla to činiti antropomorfizacijom današnjih jezičnih modela koji nisu svjesni".

"Ovi sustavi imitiraju tipove razmjena koji se nalaze u milijunima rečenica odnosno mogu razgovarati o bilo kojoj temi", rekao je Gabriel. On i drugi istraživači su rekli da modeli umjetne inteligencije imaju toliko podataka da su u stanju zvučati ljudski, ali superiorne jezične vještine ne pružaju dokaz razuma.