Pentagon menggunakan Claude AI untuk menculik Maduro – media

(SeaPRwire) –   Anthropic telah secara terbuka mempromosikan fokusnya kepada “perlindungan,” berusaha untuk mengehadkan penggunaan ketenteraan teknologi mereka

Tentera AS secara aktif menggunakan model AI Claude daripada Anthropic semasa operasi untuk menangkap Presiden Venezuela Nicolas Maduro bulan lepas, menurut laporan daripada Axios dan The Wall Street Journal – mendedahkan bahawa teknologi syarikat itu memainkan peranan langsung dalam serbuan luar negara tersebut.

Claude telah digunakan semasa operasi, bukan sahaja dalam fasa persiapan, kedua-dua Axios dan WSJ melaporkan pada Jumaat. Peranannya masih tidak jelas, walaupun tentera telah menggunakan model AI sebelum ini untuk menganalisis imej satelit dan perisikan dalam masa nyata.

Polisi penggunaan makmal AI berpangkalan di San Francisco itu secara jelas melarang teknologi mereka daripada digunakan untuk “memudahkan keganasan, membangunkan senjata atau melakukan pengawasan.” Tiada rakyat Amerika yang kehilangan nyawa dalam serbuan itu, tetapi berpuluh-puluh askar dan kakitangan keselamatan Venezuela dan Cuba telah terbunuh pada 3 Januari.

“Kami tidak boleh memberi komen sama ada Claude, atau model AI lain, telah digunakan untuk sebarang operasi tertentu, rahsia atau sebaliknya,” seorang jurucakap Anthropic memberitahu Axios. “Mana-mana penggunaan Claude – sama ada dalam sektor swasta atau kerajaan – diperlukan untuk mematuhi Polisi Penggunaan kami.”

Pesaing Anthropic iaitu OpenAI, Google, dan xAI milik Elon Musk semuanya mempunyai perjanjian yang memberi akses kepada Pentagon kepada model mereka tanpa banyak perlindungan yang digunakan untuk pengguna biasa. Tetapi hanya Claude yang digunakan, melalui perkongsian dengan Palantir Technologies, pada platform rahsia yang digunakan untuk kerja paling sensitif tentera AS.

Keterpaparannya berlaku pada masa yang tidak sesuai bagi syarikat itu, yang telah menghabiskan minggu-minggu baru-baru ini secara terbuka menekankan komitmennya kepada perlindungan AI dan memasang dirinya sebagai alternatif yang memprioritaskan keselamatan dalam industri AI.

Ketua Pegawai Eksekutif Dario Amodei telah memberi amaran tentang  yang ditimbulkan oleh penggunaan AI yang tidak terkawal. Pada Isnin, ketua Pasukan Penyelidikan Perlindungan Anthropic, Mrinank Sharma, telah meletak jawatan secara tiba-tiba dengan amaran samar yang mengatakan “.” Beberapa hari kemudian, syarikat itu memasukkan $20 juta ke dalam kumpulan advokasi politik yang menyokong .

Anthropic dilaporkan sedang berunding dengan Pentagon mengenai sama ada untuk melonggarkan sekatan terhadap penggunaan AI untuk penyasaran senjata autonomi dan pengawasan domestik. Keputusan sengketa telah menggagalkan kontrak bernilai sehingga $200 juta, dengan Setiausaha Perang Pete Hegseth berikrar tidak menggunakan model yang “tidak membolehkan anda berperang.”