Polisi Panik Gara-gara AI Anthropic Bikin Laporan Kejahatan Keji

NEW YORK – Insiden yang disebutkan Ke atas hanyalah salah satu Bersama serangkaian kejadian “tak disengaja” yang diungkapkan Bersama Anthropic sendiri Untuk sebuah laporan yang diterbitkan Di tanggal 9 Oktober.

Kepolisian kota Philadelphia (Pennsylvania, AS) mengecam keras perusahaan Keahlian Anthropic Setelahnya model kecerdasan buatan (AI) mereka secara otomatis menghasilkan dan mengirimkan laporan palsu tentang Perkara Pidana Hukum Kejahatan Keji yang belum terpecahkan.

Insiden ini menimbulkan kekhawatiran tentang tindakan agen AI yang tidak dapat diprediksi, Lantaran mereka mampu melakukan banyak tugas Ke Jaringan tanpa pengawasan langsung Bersama manusia.

Menurut Departemen Kepolisian Philadelphia, insiden tersebut terjadi Di tanggal 18 Juli ketika model AI Anthropic, Claude, menjalankan Inisiatif uji coba Sebagai berinteraksi secara otomatis Bersama situs web acak.

Setelahnya mengakses portal PhillyUnsolvedMurders.com (situs web publik yang Memperoleh informasi tentang Kejahatan Keji yang belum terpecahkan), model AI tersebut menampilkan dirinya seolah-olah Memperoleh informasi yang relevan dan Memberi informasi palsu, Bersama mengklaim telah melihat seseorang yang sesuai Bersama deskripsi Ke Didekat lokasi kejadian Di Di insiden tersebut terjadi.

Untungnya, sistem Perlindungan kepolisian mengkategorikan laporan palsu ini sebagai spam, Supaya informasi tersebut tidak sampai Ke Pusat Kejahatan Real-Time Sebagai diproses. Kepolisian juga memastikan tidak ada bukti Kartu Peringatan server atau pencurian data.