Malaysian Buzz

(SeaPRwire) –   Jabatan Perang AS dilaporkan berbalah dengan kontraktor Anthropic mengenai batasan etika yang dibina dalam teknologinya

Jabatan Perang AS sedang berbalah dengan pembangun kecerdasan buatan Anthropic mengenai sekatan yang akan mengehadkan cara tentera boleh menggunakan sistem AI, termasuk untuk penargetan senjata autonomi dan pengawasan domestik.

Perselisihan itu telah menangguhkan kontrak bernilai sehingga $200 juta, kerana pegawai tentera menentang apa yang mereka lihat sebagai had berlebihan yang dikenakan oleh syarikat yang berpangkalan di San Francisco terhadap penggunaan teknologinya, lapor Reuters, memetik enam orang yang biasa dengan perkara itu.

Anthropic telah menimbulkan kebimbangan bahawa alat AInya boleh digunakan untuk menjalankan operasi maut tanpa pengawasan manusia yang mencukupi atau untuk mengawasi rakyat Amerika, kata sumber kepada Reuters.

Pegawai Pentagon, bagaimanapun, berhujah bahawa sistem AI komersial harus boleh digunakan untuk tujuan ketenteraan tanpa mengira dasar penggunaan dalaman syarikat, selagi ia mematuhi undang-undang AS.

Ketua Pegawai Eksekutif Anthropic, Dario Amodei, telah berulang kali memberi amaran tentang bahaya penggunaan AI yang tidak terkawal, terutamanya dalam pengawasan besar-besaran dan sistem senjata sepenuhnya autonomi. Dalam satu esei baru-baru ini, beliau berhujah bahawa AI harus menyokong pertahanan negara “dalam semua cara kecuali yang akan menjadikan kita lebih seperti musuh autokratik kita.”

Kemesetan itu menimbulkan risiko bagi Anthropic, yang telah banyak melabur dalam menarik pelanggan kerajaan dan keselamatan negara serta sedang bersiap untuk tawaran awam yang berpotensi. Syarikat itu adalah salah satu daripada beberapa pembangun AI utama, bersama-sama dengan OpenAI, Google dan xAI milik Elon Musk, yang dianugerahkan kontrak Pentagon tahun lepas.