Tvrtke su sve više zabrinute zbog generativnih AI platformi poput ChatGPT
Meta Platforms upozorava na generativnu prijetnju zlonamjernog softvera umjetne inteligencije te se
pridružuje sve većem broju tvrtki zabrinutih zbog potencijalnih opasnosti generativnih AI platformi uključujući ChatGPT. Objavili su detalje istraživanja koji su pokazali povećanu prijetnju zlonamjernog softvera koji uključuje usluge.
Glavni dužnosnik za informacijsku sigurnost Guy Rosen upozorio je na blogu da je posljednji val kampanja zlonamjernog softvera ciljao na generativnu AI tehnologiju na način sličan prethodnim napadima temeljenim na popularnosti kriptovalute.
Meta Platform je od ožujka pronašla oko deset vrsta zlonamjernog softvera koji se predstavlja kao ChatGPT ili slični alati, piše Mobile World Live. Rosen je primijetio da su zlonamjerna proširenja preglednika koja tvrde da pružaju ChatGPT alate dostupna u službenim web trgovinama.
U nekim su slučajevima proširenja uključivala ChatGPT funkcionalnost uz zlonamjerni softver kako bi se izbjegla sumnja. Rosen je izjavio da su njegovi timovi otkrili i blokirali više od 1000 jedinstvenih zlonamjernih URL-ova da se ne dijele u aplikacijama te su ih prijavili kolegama iz industrije.
Primijetio je da se neki zlonamjerni softver prebacio na marketinške usluge Google Bard ili TikTok nakon što su otkriveni pokušaji ChatGPT-a. Rosen je dodao da su hakeri primijetili brzu evoluciju generativnog AI sektora i upozorio da "svi trebamo biti na oprezu".