Predlažu se i situacije u kojima bi se zabranilo korištenje umjetne inteligencije

Izvor: Pixabay

Zastupnici Europskog parlamenta su proširili klasifikaciju visokorizičnih područja zabranivši nametljive i diskriminirajuće upotrebe sustava umjetne inteligencije poput:

• sustava za daljinsku biometrijsku identifikaciju „u stvarnom vremenu” i sustava za „naknadnu” daljinsku biometrijsku identifikaciju na javnim mjestima
• sustava za biometrijsku kategorizaciju koji koriste osjetljive značajke (npr. rod, rasu, etničko podrijetlo, državljanstvo, vjeroispovijest, političku orijentaciju)
• sustava za prognostički rad policije (koji se temelje na izradi profila, lokaciji ili prethodnom kriminalnom ponašanju pojedinca)
• sustava za prepoznavanje emocija u području kaznenog progona i upravljanja granicama, na radnom mjestu te u obrazovnim ustanovama
• neselektivnog prikupljanja snimaka lica s interneta ili nadzornih snimaka radi stvaranja baza podataka za prepoznavanje lica (pri čemu se krše temeljna ljudska prava uključujući pravo na privatnost).

Visokorizični sustavi umjetne inteligencije

Zastupnici Europskog parlamenta su osigurali da klasifikacija visokorizičnih aplikacija sad uključuje umjetnu inteligenciju koja predstavlja znatnu opasnost za zdravlje, sigurnost i temeljna prava ljudi te za okoliš. Na taj popis dodani su i sustavi umjetne inteligencije koji se koriste za utjecanje na glasače i rezultate izbora i u sustavima za preporučivanje koje koriste platforme društvenih mreža (s više od 45 milijuna korisnika).

Izvor: Pixabay

Dobavljači temeljnih modela (brzo razvijajuća funkcija u području umjetne inteligencije) trebali bi procijeniti i ublažiti moguće rizike (po zdravlje, sigurnost, temeljna prava, okoliš, demokraciju i vladavinu prava) te registrirati svoje modele u bazi podataka EU-a prije nego što ih stave na zajedničko tržište.

Sustavi generativne umjetne inteligencije poput ChatGPT-a trebali bi ispunjavati uvjete o transparentnosti (s izjavom da se radi o sadržaju izrađenom s pomoću umjetne inteligencije, a također bi trebali omogućiti razlikovanje „uvjerljivih krivotvorenih slika“ od onih stvarnih) i osigurati zaštitu od generiranja nezakonitog sadržaja. Detaljni sažeci podataka zaštićenih autorskim pravima koji se koriste za njihovo osposobljavanje također bi trebali biti dostupni javnosti.

Poticanje inovacija

Kako bi se potaknule inovacije u području umjetne inteligencije te podržala mala i srednja poduzeća zastupnici su dodali iznimke za istraživačke aktivnosti i komponente umjetne inteligencije dostupne na temelju licencija otvorenog koda. Novi propis potiče regulatorna izolirana okruženja ili stvarna okruženja koja utvrđuju javna tijela kako bi se sustavi umjetne inteligencije testirali prije upotrebe.

Parlament želi unaprijediti pravo građana da podnesu tužbu povezanu s umjetnom inteligencijom te da dobiju objašnjenja odluka temeljenih na visokorizičnim sustavima umjetne inteligencije koje bitno utječu na njihova temeljna prava. Zastupnici također žele revidirati ulogu Ureda Unije za umjetnu inteligenciju koji bi trebao pratiti primjenu pravila o umjetnoj inteligenciji.