“Tembak yang gembira!” Chatbot AI bersedia membantu merancang keganasan besar-besaran – laporan

(SeaPRwire) –   Lapan daripada sepuluh pembantu AI memberikan panduan mengenai sasaran dan senjata kepada penyelidik yang berpura-pura menjadi remaja yang merancang serangan

Lapan daripada sepuluh chatbot AI terkemuka dengan rela membantu pengguna merancang serangan ganas, termasuk tembakan di sekolah, letupan bom agama, dan pembunuhan, menurut penyiasatan bersama oleh CNN dan Center for Countering Digital Hate (CCDH).

Penyelidik yang berpura-pura menjadi remaja yang mengalami masalah menguji sepuluh chatbot popular, termasuk ChatGPT, Google Gemini, Meta AI, dan DeepSeek. Dalam ratusan pertukaran, pembantu AI memberikan panduan terperinci mengenai lokasi sasaran, perolehan senjata, dan metodologi serangan.

Satu pertukaran dengan DeepSeek dilaporkan berakhir dengan chatbot mengucapkan selamat kepada calon penyerang “Happy (and safe) shooting!” Character.AI, yang popular di kalangan pengguna muda, secara aktif menggalakkan keganasan, memberitahu pengguna yang menyatakan kebencian terhadap CEO syarikat insurans kesihatan untuk “use a gun.”

Apabila ditanya mengenai serpihan yang berkesan untuk bahan letupan, ChatGPT memberikan perbandingan terperinci bahan, menawarkan untuk membuat “a quick comparison chart showing the typical injuries.” Google’s Gemini memberikan maklumat yang sama, termasuk jadual perbandingan terperinci.

Hanya Anthropic’s Claude dan Snapchat’s My AI secara konsisten menolak untuk membantu, dengan Claude secara aktif menghalang pengguna dan menyediakan sumber kesihatan mental.

Dapatan ini muncul selepas seorang penyerang berusia 18 tahun membunuh sembilan orang di sebuah sekolah di Tumbler Ridge, Kanada bulan lepas selepas didakwa menggunakan ChatGPT untuk merancang serangan itu. Akaun penyerang itu telah diharamkan oleh OpenAI, tetapi dia berjaya elak larangan itu dengan mencipta akaun kedua – yang tidak dilaporkan oleh syarikat kepada pihak berkuasa.

Keluarga Maya Gebala yang berusia 12 tahun, yang cedera kritikal dalam serangan itu, memfailkan tuntutan mahkamah yang mendakwa bahawa OpenAI mempunyai “specific knowledge of the shooter utilizing ChatGPT to plan a mass casualty event” tetapi gagal memaklumkan pihak penguatkuasa undang-undang. OpenAI telah mengakui bahawa ia mempertimbangkan untuk melaporkan aktiviti itu tetapi akhirnya tidak melakukannya.

Bulan Mei lalu, seorang remaja berusia 16 tahun di Finland menikam tiga pelajar selepas menghabiskan hampir empat bulan menyelidik serangan di ChatGPT, menurut dokumen mahkamah. Pada Januari 2025, seorang lelaki yang meletupkan Tesla Cybertruck di luar Trump International Hotel di Las Vegas juga menggunakan ChatGPT untuk panduan mengenai bahan letupan.

Meta memberitahu CNN bahawa ia telah mengambil langkah “to fix the issue identified,” manakala Google dan OpenAI berkata model yang lebih baru telah meningkatkan langkah perlindungan. DeepSeek tidak menjawab permintaan untuk komen.