Iako umjetna inteligencija intrigira mnoge pojedince i grupe ovaj put se problem pojavio s prikupljanjem podataka
Osobni podaci prikupljaju se nezakonito, za djecu ne postoji sustav provjere dobi. Stav je to talijanskog tijela za zaštitu podataka koje je priopćilo da postoji zabrinutost zbog privatnosti u vezi s modelom koji je stvorio američki start-up OpenAI, a podupire ga Microsoft.
ChatGPT je najpoznatija među relacijskim AI platformama koje su sposobne oponašati i razraditi ljudske razgovore. Talijani su uveli privremeno ograničenje obrade podataka talijanskih korisnika od strane OpenAI-ja, američke tvrtke koja razvija i upravlja AI platformom. Pokrenuta je i istraga o činjeničnom stanju slučaja, piše garanteprivacy.it.
Povreda podataka koja je utjecala na razgovore korisnika ChatGPT-a i informacije o plaćanjima pretplatnika usluge prijavljena je 20. ožujka. U odluci se ističe kako se ne pružaju nikakve informacije korisnicima i subjektima podataka čije podatke prikuplja Open AI.
Što je još važnije, čini se da ne postoji pravna osnova koja podupire masovno prikupljanje i obradu osobnih podataka kako bi se 'trenirali' algoritmi na koje se platforma oslanja. Kao što su potvrdila dosadašnja testiranja, informacije koje ChatGPT stavlja na raspolaganje ne odgovaraju uvijek činjeničnim okolnostima tako da se obrađuju netočni osobni podaci.
Naposljetku, talijanski regulator naglašava u svojoj odluci kako nedostatak bilo kojeg mehanizma za provjeru dobi izlaže djecu primanju odgovora koji su apsolutno neprimjereni njihovoj dobi i svijesti, iako je usluga navodno upućena korisnicima starijim od 13 godina, prema uvjetima usluge OpenAI .
OpenAI nije osnovan u EU, no imenovao je predstavnika u Europskom gospodarskom prostoru. Morat će obavijestiti talijanskog regulatora u roku od 20 dana o poduzetim mjerama u skladu s nalogom, inače im može biti izrečena kazna do 20 milijuna eura ili 4% ukupnog svjetskog godišnjeg prometa.