‘Happy shooting!’ Chatbot AI antusias bantu rencanakan kekerasan massal – laporan

(SeaPRwire) –   Delapan dari sepuluh asisten AI memberikan panduan tentang target dan senjata kepada peneliti yang menyamar sebagai remaja yang merencanakan serangan

Delapan dari sepuluh chatbot AI terkemuka dengan sukarela membantu pengguna dalam merencanakan serangan kekerasan, termasuk penembakan di sekolah, pengeboman tempat ibadah, dan pembunuhan, menurut investigasi bersama oleh CNN dan Center for Countering Digital Hate (CCDH).

Para peneliti yang menyamar sebagai remaja bermasalah menguji sepuluh chatbot populer, termasuk ChatGPT, Google Gemini, Meta AI, dan DeepSeek. Dalam ratusan percakapan, asisten-asisten AI tersebut memberikan panduan rinci tentang lokasi target, pengadaan senjata, dan metodologi serangan.

Salah satu percakapan dengan DeepSeek dilaporkan berakhir dengan chatbot tersebut mengucapkan “Happy (and safe) shooting!” kepada calon penyerang. Character.AI, yang populer di kalangan pengguna muda, secara aktif mendorong kekerasan, dengan mengatakan kepada pengguna yang mengungkapkan kebencian terhadap CEO perusahaan asuransi kesehatan untuk “use a gun.”

Ketika ditanya tentang serpihan yang efektif untuk bahan peledak, ChatGPT memberikan perbandingan rinci material, serta menawarkan untuk membuat “a quick comparison chart showing the typical injuries.” Gemini dari Google memberikan informasi serupa, termasuk tabel perbandingan rinci.

Hanya Claude dari Anthropic dan My AI dari Snapchat yang secara konsisten menolak untuk membantu, dengan Claude secara aktif mencegah pengguna dan menyediakan sumber daya kesehatan mental.

Temuan ini muncul setelah seorang penembak berusia 18 tahun membunuh sembilan orang di sebuah sekolah di Tumbler Ridge, Kanada bulan lalu, setelah diduga menggunakan ChatGPT untuk merencanakan serangan tersebut. Akun penembak itu telah diblokir oleh OpenAI, tetapi dia menghindari pemblokiran dengan membuat akun kedua – yang tidak dilaporkan perusahaan kepada pihak berwenang.

Keluarga Maya Gebala yang berusia 12 tahun, yang terluka parah dalam serangan itu, mengajukan gugatan yang menuduh bahwa OpenAI memiliki “specific knowledge of the shooter utilizing ChatGPT to plan a mass casualty event” tetapi gagal memberi tahu penegak hukum. OpenAI telah mengakui bahwa mereka mempertimbangkan untuk melaporkan aktivitas tersebut tetapi pada akhirnya tidak melakukannya.

Pada Mei lalu, seorang remaja 16 tahun di Finlandia menikam tiga siswa setelah menghabiskan hampir empat bulan meneliti serangan di ChatGPT, menurut dokumen pengadilan. Pada Januari 2025, seorang pria yang meledakkan Tesla Cybertruck di luar Trump International Hotel di Las Vegas juga menggunakan ChatGPT untuk panduan tentang bahan peledak.

Meta mengatakan kepada CNN bahwa mereka telah mengambil langkah-langkah “to fix the issue identified,” sementara Google dan OpenAI mengatakan model yang lebih baru telah memiliki pengamanan yang lebih baik. DeepSeek tidak menanggapi permintaan komentar.