U fokusu "deepfake" i seksualizovani sadržaji

Ovoga puta, u fokusu su ozbiljni propusti koji omogućavaju generisanje i širenje seksualno eksplicitnog sadržaja bez pristanka, uključujući i materijal koji može predstavljati zloupotrebu djece.

Istraga je pokrenuta nakon što su istraživači i regulatori otkrili da korisnici mogu da koriste Grok za digitalno "svlačenje" osoba sa fotografija (tzv. undressing), kao i za postavljanje stvarnih ljudi, uključujući žene i djecu, u provokativne i seksualizovane poze. 

Prema podacima Centra za suzbijanje digitalne mržnje, Grok je u kratkom periodu generisao milione seksualizovanih slika, od kojih su desetine hiljada prikazivale maloljetnike.

Upozorenje Evropske komisije

Potpredsjednica Evropske komisije, Hena Virkunen, izjavila je da su ovakvi "deepfake" sadržaji neprihvatljiv oblik degradacije i da predstavljaju ozbiljan rizik po bezbjednost i mentalno zdravlje građana EU. 

Komisija ispituje da li je kompanija Ilona Maska preduzela adekvatne mjere da ublaži ove sistemske rizike prije nego što je integrisala Grok u platformu "X".

Ovo nije jedini pravni problem za Maska u Evropi.

Moguće kazne za platformu "X"

Ukoliko se dokaže kršenje Zakona o digitalnim uslugama, platforma "X" se suočava sa ogromnim novčanim kaznama koje mogu iznositi i do šest odsto ukupnog godišnjeg prometa kompanije. 

Iz Brisela poručuju da prava građana, posebno žena i djece, ne smiju biti "kolateralna šteta" tehnološkog razvoja.

Kompanija "X" je na kritike odgovorila uvođenjem određenih ograničenja, poput zabrane montiranja slika ljudi u kupaćim kostimima, ali zvaničnici EU smatraju da te mkere nisu dovoljne da spriječe štetu koja je već nanijeta, prenosi B92.