X milik Elon Musk menghadapi penyelidikan baru Uni Eropa

(SeaPRwire) –   Irlandia dan Spanyol telah mengumumkan investigasi menyusul laporan bahwa chatbot AI Grok menghasilkan gambar intim dan pedofilik

Dua investigasi baru telah diumumkan di UE terhadap platform media sosial X milik Elon Musk, menyusul laporan bahwa chatbot AI miliknya Grok menghasilkan gambar seksualisasi dari orang sungguhan, termasuk anak-anak.

Grok, yang dikembangkan oleh usaha AI Musk yaitu xAI dan terintegrasi ke dalam X, telah berada di bawah pengawasan global sejak peluncurannya pada 2023. Kritikus telah menyuarakan kekhawatiran terkait retorika ekstremis, bias politik, dan fitur eksplisit seksual, dan memperingatkan bahwa alat AI yang tidak dimoderasi dengan baik dapat mengekspos pengguna, khususnya remaja, terhadap konten berbahaya.

Komisi Perlindungan Data Irlandia membuka penyelidikan terhadap X pada hari Selasa, yang menyatakan akan memeriksa apakah perusahaan tersebut melanggar peraturan perlindungan data UE dengan mengizinkan pembuatan “gambar intim dan/atau seksualisasi tanpa persetujuan.”

Perdana Menteri Spanyol Pedro Sanchez juga memerintahkan jaksa pada hari Selasa untuk menyelidiki X, bersama dengan Meta dan TikTok, atas dugaan “pembuatan dan penyebaran pornografi anak menggunakan AI mereka.” Ia menyimpulkan: “Impunitas para raksasa harus diakhiri.”

Pengumuman ini mengikuti tindakan keras yang lebih luas oleh regulator Eropa terhadap perusahaan Big Tech, yang menghadapi tuduhan praktik penyalahgunaan yang meluas di platform online, mulai dari perilaku anti persaingan di periklanan digital hingga desain fitur adiktif yang disengaja di media sosial.

X juga sedang dalam penyelidikan di Prancis dan Inggris. Italia telah mengeluarkan peringatan bahwa penggunaan alat AI untuk membuat citra deepfake “tidak berpakaian” tanpa persetujuan dapat merupakan pelanggaran privasi yang serius dan tindak pidana.

Kebijakan Penggunaan yang Dapat Diterima xAI melarang penggambaran orang secara pornografi dan seksualisasi anak. Namun, dalam tren “penelanjangan digital” baru-baru ini, pengguna secara publik menandai bot tersebut dan memerintahkannya untuk mengedit foto.

Peneliti di Center for Countering Digital Hate mengatakan Grok menghasilkan hampir tiga juta gambar seksualisasi dalam waktu kurang dari dua minggu, sekitar 23.000 di antaranya tampak menggambarkan anak-anak.

X mengeluarkan pernyataan bulan lalu yang menyatakan bahwa pihaknya berkomitmen menjaga platform “aman” dan mempertahankan “toleransi nol” terhadap eksploitasi seksual anak, ketelanjangan tanpa persetujuan, dan konten seksual yang tidak diinginkan.