Kanada mahukan jawapan daripada OpenAI selepas pembunuhan beramai-ramai di sekolah

(SeaPRwire) –   Pasukan keselamatan firma teknologi itu telah dipanggil ke Ottawa untuk menjelaskan mengapa ia gagal memberi amaran kepada polis mengenai akaun yang dikaitkan dengan seorang penembak beramai-ramai

Pegawai Kanada telah memanggil wakil senior OpenAI ke Ottawa untuk menjawab soalan-soalan mengenai protokol keselamatan syarikat teknologi itu selepas ia mengesahkan ia tidak memberi amaran kepada polis mengenai akaun yang dikaitkan dengan penembak beramai-ramai Jesse Van Rutselaar.

Menteri Kecerdasan Buatan Evan Solomon berkata pada hari Isnin bahawa pegawai keselamatan senior OpenAI akan datang ke Ottawa pada hari Selasa untuk menggariskan bagaimana syarikat itu memutuskan bila untuk memberitahu pihak penguatkuasa undang-undang.

Van Rutselaar, orang transgender berusia 18 tahun itu, membunuh sembilan orang di sebuah bandar kecil di British Columbia awal bulan ini sebelum membunuh diri.

OpenAI mengesahkan mesyuarat itu, berkata para pemimpin senior akan membincangkan “pendekatan keseluruhan kami terhadap keselamatan, langkah-langkah perlindungan yang ada, dan bagaimana ia terus diperkukuhkan.” Mesyuarat itu berikutan pendedahan syarikat itu bahawa ia melarang akaun Van Rutselaar pada Jun 2025 kerana “mempromosikan aktiviti ganas” tetapi tidak memberitahu pihak berkuasa Kanada.

Solomon berkata dia “sangat terganggu” dengan laporan bahawa syarikat itu menggantung akaun itu tanpa menghubungi polis.

Menurut Wall Street Journal, Van Rutselaar berkongsi senario ganas berkaitan senjata api dengan ChatGPT selama beberapa hari. OpenAI berkata sistem automatiknya telah menandakan pertukaran itu tetapi tidak menemui bukti “perancangan yang boleh dipercayai atau akan berlaku segera,” yang mengakibatkan larangan daripada merujuk kepada pihak penguatkuasa undang-undang.

Sumber itu melaporkan bahawa kakitangan telah berbincang secara dalaman mengenai menghubungi Pasukan Polis Bergandar Diraja Kanada (RCMP) dan OpenAI berkata ia memberikan maklumat kepada RCMP hanya selepas serangan itu.

Van Rutselaar, yang mempunyai sejarah masalah kesihatan mental, juga dilaporkan menggunakan platform dalam talian Roblox untuk mencipta sebuah pusat membeli-belah maya yang dipenuhi dengan senjata di mana pengguna boleh mensimulasikan penembakan sebelum serangan itu.

Kes ini berlaku ketika Ottawa mempertimbangkan cara untuk mengawal selia chatbot AI yang digunakan secara meluas, termasuk had yang berpotensi terhadap akses kanak-kanak.

Tahun lepas, OpenAI mengemas kini ChatGPT selepas semakan dalaman mendapati lebih daripada sejuta pengguna telah mengungkapkan pemikiran bunuh diri kepada chatbot itu. Ahli psikiatri telah mengutarakan kebimbangan mengenai interaksi AI yang berpanjangan yang menyumbang kepada khayalan dan paranoia, fenomena yang kadang-kadang dipanggil “psikosis AI.”