Nekoliko istaknutih ljudi zahtijeva pauzu u utrci koja mijenja svijet
Izvršni direktor Twittera Elon Musk, suosnivač Applea Steve Wozniak, razne grupe koje se bave umjetnom inteligencijom i akademici pozvali su na šestomjesečnu stanku u razvoju AI sustava moćnijih od OpenAI GPT-4.
Upozoravaju na rizike koje brzi napredak predstavlja za društvo i čovječanstvo. U otvorenom pismu koje je objavila neprofitna organizacija Future of Life Institute više od 1000 potpisnika iz tehnološkog i obrazovnog sektora navelo je da su istraživanja pokazala kako sustavi umjetne inteligencije s ljudskom kompetitivnom inteligencijom predstavljaju duboke rizike te da ih stoga treba planirati i s njima upravljati s odgovarajućom pažnjom.
Više AI laboratorija je posljednjih mjeseci u utrci koja se sve više čini da je izvan kontrole, a čini se kako implementaciju i razvoj još moćnijih digitalnih umova nitko, čak ni njihovi kreatori, teško da mogu razumjeti, predvidjeti ili pouzdano kontrolirati.
Zbog svega navedenoga grupa je pozvala na trenutačnu pauzu u obuci novih sustava moćnijih od GPT-4, prenosi Mobile World Live. “Ova stanka bi trebala biti javna i provjerljiva te uključivati sve ključne aktere. Ako se takva pauza ne može brzo donijeti, vlade bi trebale uskočiti i uvesti moratorij”, napisali su.
AI jezični model GPT-4 objavio je ranije ovog mjeseca OpenAI, programerska tvrtka koju podržava Microsoft, a sada agresivno uvodi tehnologiju u svoje proizvode. GPT-4 je objavljen kao nastavak generativne AI platforme ChatGPT koja je privukla naslove u cijeloj industriji i brzo prihvaćanje korisnika. I Google gura vlastite AI proizvode, nakon značajne potpore developera Anthropic.
Potpisnici pisma dodali su da bi laboratoriji i stručnjaci za umjetnu inteligenciju trebali iskoristiti predloženu stanku za razvoj i implementaciju skupa zajedničkih sigurnosnih protokola za napredni dizajn i razvoj koji se rigorozno revidiraju.
Dodali su da poziv nije za pauzu u razvoju umjetne inteligencije općenito već "samo za povlačenje iz opasne utrke prema sve većim, nepredvidivim modelima crnih kutija s novim mogućnostima".