Malezija i Indonezija blokirale Muskov Grok zbog seksualnog sadržaja bez pristanka

Malezijski regulatori naredili su u nedjelju privremena ograničenja za chatbota tvrtke xAI nakon "ponovljenih propusta tvrtke X Corp" kako bi se riješili rizici povezani s alatom umjetne inteligencije.

Taj potez uslijedio je samo dan nakon što je Indonezija privremeno zaustavila pristup Groku zbog sličnih zabrinutosti i pozvala dužnosnike tvrtke X po tom pitanju, prema CNBC-jevom prijevodu izjave.

Akcije zemalja jugoistočne Azije dolaze nakon što je otkriveno da je xAI-jev Grok omogućio korisnicima jednostavno generiranje i dijeljenje slika na mreži koje su uključivale eksplicitne slike bez pristanka i materijale o seksualnom zlostavljanju djece (CSAM).

Muskova tvrtka nedavno je ažurirala svoje značajke Grok Imagine, omogućujući lakše generiranje slika iz tekstualnih upita na chatbotu, koji je integriran s Muskovom platformom društvenih medija X, dajući mu širok doseg.

Usred rastuće zabrinutosti oko Grokove politike moderiranja sadržaja, xAI je najavio da će ograničiti funkcije generiranja i uređivanja slika na pretplatnike koji plaćaju, u nastojanju da se zakrpe sigurnosni nedostaci koji su dopuštali seksualizirane izlaze.

Musk, odgovarajući na X, također je tvrdio da će se korisnici koji stvaraju ilegalni sadržaj putem Groka suočiti s posljedicama jednakim izravnom učitavanju takvog materijala na platformu društvenih medija.

CNBC je pokušao kontaktirati xAI za komentar u vezi s događajima tijekom vikenda. E-pošta za medije tvrtke vratila je automatsku poruku u kojoj je pisalo "Legacy Media Lies".

"Nedovoljni" odgovori

Javni i privatni odgovori X-a usred kontroverze nisu uspjeli zadovoljiti zabrinutost regulatora u Indoneziji i Maleziji, kao ni drugih koji su pokrenuli istrage.

Malezijska komisija za komunikacije i multimediju izjavila je da su se "nedovoljni" odgovori X-a "prvenstveno oslanjali na mehanizme prijavljivanja koje su pokrenuli korisnici i nisu se bavili inherentnim rizicima koje predstavljaju dizajn i rad AI alata".

"Sukladno tome, ograničenje se nameće kao preventivna i proporcionalna mjera dok su pravni i regulatorni procesi u tijeku", rekao je nadzorni organ. „Pristup Groku ostat će ograničen dok se ne provedu učinkovite zaštitne mjere, posebno kako bi se spriječio sadržaj koji uključuje žene i djecu.“

I Indonezija i Malezija održavaju stroge zakone protiv pornografije, koji šire zabranjuju dijeljenje opscenog i seksualnog sadržaja na internetu.

U međuvremenu, indonezijsko Ministarstvo komunikacija i digitalnih poslova Meutya Hafid izjavilo je da „Vlada smatra seksualne deepfakeove bez pristanka ozbiljnim kršenjem ljudskih prava, dostojanstva i sigurnosti građana u digitalnom prostoru.“

Hafid je također kategorizirao zlouporabu umjetne inteligencije za proizvodnju lažne pornografije kao oblik „digitalnog nasilja“, prema izjavama koje je podijelila državna Antara News.

I drugdje pod pritiskom

Vlasti u drugim jurisdikcijama, uključujući Europsku uniju, Ujedinjeno Kraljevstvo, Brazil i Indiju, također su pozvale na istragu uloge Groka u olakšavanju opscenih deepfakeova.

Britansko nadzorno tijelo, Internet Watch Foundation, prošli je tjedan izjavilo da su njegovi analitičari otkrili „kriminalne slike“ djece u dobi između 11 i 13 godina, koje su, čini se, stvorene pomoću Groka.

Neki demokratski zakonodavci u Washingtonu preporučili su da trgovine aplikacija obustave alat umjetne inteligencije, barem dok Musk ne provede veće promjene.