Pentagon gunakan Claude AI untuk menculik Maduro – media

(SeaPRwire) –   Anthropic telah secara terbuka mempromosikan fokusnya pada “safeguards,” yang berupaya membatasi penggunaan teknologinya untuk keperluan militer

Militer AS secara aktif menggunakan model AI Claude milik Anthropic selama operasi untuk menangkap Presiden Venezuela Nicolas Maduro bulan lalu, menurut laporan dari Axios dan Wall Street Journal – mengungkapkan bahwa teknologi perusahaan tersebut memainkan peran langsung dalam serangan di luar negeri itu.

Claude digunakan selama operasi berlangsung, bukan hanya dalam fase persiapan, demikian dilaporkan Axios dan WSJ pada Jumat. Peran pastinya masih belum jelas, meskipun militer sebelumnya telah menggunakan model AI untuk menganalisis citra satelit dan intelijen secara real-time.

Kebijakan penggunaan laboratorium AI yang berbasis di San Francisco itu secara eksplisit melarang teknologinya digunakan untuk “memfasilitasi kekerasan, mengembangkan senjata, atau melakukan pengawasan.” Tidak ada warga Amerika yang kehilangan nyawa dalam serangan itu, tetapi puluhan tentara dan personel keamanan Venezuela dan Kuba tewas pada 3 Januari.

“Kami tidak dapat berkomentar apakah Claude, atau model AI lainnya, digunakan untuk operasi spesifik apa pun, yang diklasifikasikan atau tidak,” kata juru bicara Anthropic kepada Axios. “Setiap penggunaan Claude – baik di sektor swasta maupun di seluruh pemerintahan – diharuskan mematuhi Kebijakan Penggunaan kami.”

Pesaing Anthropic seperti OpenAI, Google, dan xAI milik Elon Musk semuanya memiliki perjanjian yang memberikan Pentagon akses ke model mereka tanpa banyak safeguards yang berlaku untuk pengguna biasa. Namun hanya Claude yang dijalankan, melalui kemitraan dengan Palantir Technologies, pada platform rahasia yang digunakan untuk pekerjaan paling sensitif militer AS.

Pengungkapan ini datang pada momen yang canggung bagi perusahaan, yang telah menghabiskan beberapa minggu terakhir dengan menekankan secara publik komitmennya pada safeguards AI dan memposisikan diri sebagai alternatif yang sadar keamanan dalam industri AI.

CEO Dario Amodei telah memperingatkan tentang yang ditimbulkan oleh penggunaan AI yang tidak terkendali. Pada hari Senin, kepala Tim Penelitian Safeguards Anthropic, Mrinank Sharma, tiba-tiba mengundurkan diri dengan peringatan samar bahwa “.” Beberapa hari kemudian, perusahaan tersebut menanamkan $20 juta ke dalam kelompok advokasi politik yang mendukung .

Anthropic dilaporkan sedang bernegosiasi dengan Pentagon mengenai apakah akan melonggarkan pembatasan pada penerapan AI untuk penargetan senjata otonom dan pengawasan domestik. Kebuntuan ini telah menghentikan kontrak senilai hingga $200 juta, dengan Menteri Perang Pete Hegseth bersumpah untuk tidak menggunakan model yang “tidak mengizinkan Anda untuk berperang.”