Tehnologije nisu savršene i sve više brinu ljude i utječu na građanska prava
Microsoft je najavio da ograničava pristup određenim alatima za prepoznavanje lica i ukida prodaju usluga koje pogađaju emocije osobe na temelju slika, kao dio pokušaja smanjenja rizika koje AI sustavi predstavljaju za društvo.
Glavna za umjetnu inteligenciju odgovorna Microsoftova službenica Natasha Crampton predstavila je okvir Responsible AI Standard. Kroz okvir se opisuje kako tvrtka misli da bi sustavi umjetne inteligencije trebali raditi i razvijati se, stavljajući vrijednosti poput pravednosti, pouzdanosti, privatnosti i sigurnosti te transparentnosti i odgovornosti u prvi plan.
Kao dio svog nastojanja tvrtka je odlučila ukinuti "emocionalno prepoznavanje", što zaključuje "emocionalna stanja i atribute identiteta kao što su spol, dob, osmijeh, dlake na licu, kosa i šminka", rekla je Crampton.
Pogrešno identificiranje
Crampton je objasnila da je prepoznavanje lica postalo sve veća briga vezana uz o građanska prava i privatnost, a studije su pokazale da je tehnologija pogrešno identificirala ženske osobe i one s tamnijim tonovima kože stvarajući ozbiljne implikacije u situacijama nadzora.
Microsoft također ističe ograničenja svoje Azure usluge prepoznavanja lica, a korisnici se sada moraju prijaviti za korištenje alata i reći tvrtki točno kako i gdje ga planiraju koristiti. Postojeći korisnici imat će godinu dana vremena prije nego što izgube pristup alatu.
Microsoft također dodaje ograničenja svojoj značajci Custom Neural Voice, dopuštajući korisnicima stvaranje glasova na temelju snimaka, prenosi Mobile World Live. “Svjesni smo da, kako bi sustavi umjetne inteligencije bili pouzdani, oni moraju biti odgovarajuća rješenja za probleme za koje su dizajnirani da ih riješe”, rekla je Crampton.