Šef OpenAI-ja traži regulaciju umjetne inteligencije

17.05.2023. / 15:43

Autor Krunoslav Ćosić 17.05.2023. / 15:43

Strahovi o prijetnjama umjetne inteligencije društvu sve više rastu

Izvor: Shutterstock

Sam Altman, izvršni direktor OpenAI-ja kojeg podržava Microsoft, pozvao je SAD da reguliraju implementaciju naprednih velikih jezičnih modela, upozoravajući na opasnosti generativne umjetne inteligencije bez čvrstih okvira politike.

Na saslušanju u Senatu SAD-a na kojem se raspravljalo o upravljanju generativnom umjetnom inteligencijom, piše Mobile World Live, Altman je tvrdio da će propisi biti ključni za ublažavanje rizika sve moćnijih modela, dok strahovi o prijetnjama društvu rastu.

Prijetnje o kojima se raspravljalo tijekom njegova svjedočenja bile su usredotočene na širenje dezinformacija i kršenje zakona o privatnosti podataka povezanih s načinom na koji OpenAI trenira svoje modele.

Senator Richard Blumenthal rekao je na saslušanju da je mogućnost neadekvatno obučene umjetne inteligencije "više nego malo zastrašujuće" i ustvrdio da se nove tehnologije moraju "pozvati na odgovornost".

Izvor: Shutterstock

Ukazao je na sposobnost OpenAI-jevog ChatGPT-a da oponaša i simulira autentične ljudske interakcije, nakon što je svoje svjedočenje započeo govorom koji je generirao model koji je uvježban njegovim glasom.

Altman je sugerirao da bi osnivanje vladine agencije koja bi regulirala obuku i implementaciju umjetne inteligencije bilo od pomoći za razvoj, objašnjavajući potrebu za "kombinacijom zahtjeva za licenciranjem i testiranjem" za programere.

Izvor: OpenAI

Također je predložio opoziv licenci programerima koji pokreću AI alate koji prelaze određeni "prag" ili "mogućnosti", na primjer modeli sposobni za samoreplikaciju ili generiranje štetnog sadržaja. Altman se zalagao za vladajuće pravilo o tome kako alati za strojno učenje prikupljaju podatke s interneta za generiranje odgovora.

"Korisnici bi trebali moći isključiti korištenje njihovih podataka od strane tvrtki poput naše ili drugih društvenih medija", dodao je Sam Altman, izvršni direktor OpenAI-ja.