Uni Eropa selidiki X milik Musk atas gambar seksual

(SeaPRwire) –   Chatbot Grok milik platform tersebut telah mendapat perhatian setelah laporan bahwa ia menghasilkan deepfake erotis, termasuk gambar anak di bawah umur

Komisi Eropa telah membuka penyelidikan terhadap platform media sosial X milik Elon Musk setelah laporan bahwa chatbot AI-nya Grok menghasilkan gambar yang berseksual, termasuk beberapa yang menggambarkan anak di bawah umur.

Grok, yang dikembangkan oleh usaha AI Musk, xAI, dan diintegrasikan ke X, telah mendapat perhatian global sejak diluncurkan pada 2023. Kritikus telah mengemukakan kekhawatiran tentang retorika ekstremis, bias politik, dan fitur yang eksplisit secara seksual, memperingatkan bahwa alat AI yang kurang dimoderasi dapat mengekspos pengguna, khususnya remaja, ke konten berbahaya.

Dalam pernyataan pada hari Senin, Komisi Eropa mengatakan sedang memeriksa apakah X telah secara memadai menangani semua risiko sistemik yang terkait dengan sistem rekomendernya, termasuk integrasi Grok baru-baru ini. Penyelidikan ini merupakan bagian dari pengawasan yang lebih luas UE terhadap platform online besar, dan regulator mengatakan langkah interim dapat diterapkan jika X tidak melakukan perubahan yang bermakna.

“Berbagi gambar yang dihasilkan AI yang berseksual, khususnya yang melibatkan anak di bawah umur, tidak dapat diterima dan menimbulkan risiko serius bagi pengguna,” kata wakil presiden eksekutif komisi untuk kedaulatan teknologi, keamanan, dan demokrasi, Henna Virkkunen.

Penyelidikan ini mengikuti tindakan penegakan sebelumnya oleh komisi, termasuk denda sebesar €150 juta ($178 juta) terhadap X pada Desember karena melanggar kewajiban transparansi di bawah Undang-Undang Layanan Digitalnya.

Menanggapi penyelidikan, X membagikan pernyataan yang dipublikasikan pada 14 Januari, mengatakan berkomitmen untuk menjaga platform tetap “aman” dan memiliki “toleransi nol” terhadap eksploitasi seksual anak, ketelanjangan tanpa persetujuan, dan konten seksual yang tidak diinginkan. Secara terpisah, Musk memposting gambar di X yang tampak mengejek batasan seputar Grok.

Penyelidikan UE ini datang setelah pejabat AS sebelumnya memperingatkan bahwa penekanan terhadap Big Tech dapat memicu tanggapan dari Washington, termasuk kemungkinan penggunaan tarif.

Para peneliti di Center for Countering Digital Hate mengatakan Grok menghasilkan hampir 3 juta gambar yang berseksual dalam waktu kurang dari dua minggu, sekitar 23.000 di antaranya tampak menggambarkan anak-anak.

Awal bulan ini, regulator media Inggris Ofcom meluncurkan penyelidikan sendiri untuk memeriksa apakah X memenuhi kewajibannya untuk melindungi pengguna secara online.