Walikota kota Kanada menyangkal menggunakan AI untuk pengambilan keputusan pemerintah

(SeaPRwire) –   Sebelumnya, pernyataan Kepala Kota Vancouver Kem Sim mengenai penggunaan asisten digital dalam urusan pemerintahan telah memicu debat tentang keamanan data

Menteri Kota Vancouver, Ken Sim, telah menjelaskan bahwa sistem kecerdasan buatan (AI) tidak digunakan untuk membuat keputusan kota setelah pernyataannya tentang asisten digital yang menangani sebagian pekerjaan beliau menimbulkan kontroversi online, dilaporkan media lokal.

Kontroversi dimulai setelah Sim berkomentar di konferensi teknologi minggu ini bahwa dia memiliki “11 agen AI” yang menjalankan “banyak” pekerjaan “di latar belakang.” Kritikus, termasuk lawan pemilihan mayor Kareem Allam, menyoroti bagaimana informasi sensitif ditangani dan memperingatkan potensi kebocoran data terkait layanan AI pihak ketiga.

Jumat, Sim menjelaskan bahwa alat AI tidak digunakan untuk membuat kebijakan atau keputusan pemerintahan di Kantor Kota Vancouver, menambahkan bahwa teknologi ini digunakan terutama untuk dukungan administratif, riset, dan tugas-tugas produktivitas. Dia menjelaskan bahwa sistem-sistem tersebut membantunya memindai berita, mengikuti peristiwa keuangan dan global, serta mengelola rencana diet.

Pernyataan Sim mengenai penggunaan agen AI datang saat pemerintah federal Kanada mengumumkan rencana untuk mendukung pembangunan dua pusat data AI baru di Vancouver. Ottawa telah menghabiskan lebih dari CAD$800 juta (lebih dari US$580 juta) untuk teknologi dan layanan terkait AI selama tiga tahun terakhir, dilaporkan National Observer Kanada minggu ini.

Episode ini terjadi saat pemerintah di seluruh dunia semakin mengadopsi sistem AI untuk pekerjaan administratif, analisis data, dan layanan publik, dengan alasan bahwa teknologi ini dapat meningkatkan efisiensi dan mengurangi biaya. Negara-negara seperti Singapura dan Uni Emirat Arab telah mengintegrasikan teknologi ini ke dalam operasional pemerintahan, sementara Albania tahun lalu menunjuk seorang ‘menteri’ yang dihasilkan oleh AI untuk mengawasi sebagian sistem pengadaan publik negaranya.

Sementara itu, kekhawatiran telah meningkat mengenai risiko-risiko terkait AI, termasuk disinformasi, serangan siber, pelanggaran privasi, penyalahgunaan kriminal, penggantian tenaga kerja, dampak terhadap kesehatan mental, dan peran yang semakin besar dari sistem otonom dalam pengambilan keputusan penting.