Malaysian Buzz

(SeaPRwire) –   Gabenor California, Gavin Newsom, telah memveto rang undang-undang yang akan menjadi salah satu dasar polisi paling komprehensif untuk mengawal keselamatan kecerdasan buatan (AI) di Amerika Syarikat.

Rang undang-undang itu akan menjadi antara yang pertama untuk meminta pertanggungjawaban daripada pemaju AI bagi sebarang kerosakan teruk yang disebabkan oleh teknologi mereka. Ia telah menarik kritikan hebat daripada beberapa Demokrat terkemuka dan firma teknologi utama, termasuk pencipta ChatGPT, OpenAI dan firma modal teroka, Andreessen Horowitz, yang memberi amaran bahawa ia boleh menghalang inovasi di negeri itu.

Newsom menggambarkan undang-undang itu sebagai “berniat baik” tetapi berkata dalam satu kenyataan bahawa ia akan dikenakan “standard ketat kepada fungsi yang paling asas.” Peraturan perlu berdasarkan “bukti empirikal dan sains,” katanya, sambil menunjuk kepada perintah eksekutifnya sendiri mengenai AI dan rang undang-undang lain yang telah diluluskannya yang mengawal selia teknologi tersebut di sekitar risiko yang diketahui seperti .

Perbahasan mengenai rang undang-undang SB 1047 California ini menyerlahkan cabaran yang dihadapi oleh penggubal undang-undang di seluruh dunia dalam mengawal risiko AI sambil menyokong teknologi yang sedang berkembang. Penggubal undang-undang AS belum lagi meluluskan sebarang undang-undang komprehensif mengenai teknologi tersebut sejak pelancaran ChatGPT dua tahun lalu memicu ledakan AI generatif global.

Senator California dari parti Demokrat, Scott Wiener, yang memperkenalkan rang undang-undang itu, memanggil veto Newsom sebagai “kemunduran bagi semua yang percaya dalam pengawasan korporasi besar.” Dalam satu kenyataan yang dimuat naik di X, Wiener berkata, “Kita semua kurang selamat akibatnya.”

‘Penjagaan yang Munasabah’

SB 1047 akan mewajibkan syarikat yang membangunkan model AI yang berkuasa untuk mengambil penjagaan yang munasabah untuk memastikan teknologi mereka tidak akan menyebabkan “kerosakan teruk” seperti kematian beramai-ramai atau kerosakan harta benda melebihi $500 juta. Syarikat akan perlu mengambil langkah berjaga-jaga tertentu, termasuk mengekalkan suis mati yang boleh mematikan teknologi mereka. Model AI juga akan tertakluk kepada ujian pihak ketiga untuk memastikan mereka meminimumkan risiko yang besar. 

Rang undang-undang itu juga akan mewujudkan perlindungan pemberi maklumat bagi pekerja di syarikat AI yang ingin . Syarikat yang tidak mematuhi rang undang-undang itu boleh didakwa oleh peguam negara California.

Penyokong rang undang-undang itu berkata ia akan mewujudkan standard undang-undang yang masuk akal. Tetapi pelabur VC, pemimpin permulaan dan syarikat seperti memberi amaran bahawa ia akan memperlahankan inovasi dan mendorong syarikat AI keluar dari negeri itu. 

“Revolusi AI baru sahaja bermula, dan status unik California sebagai peneraju global dalam AI sedang mendorong dinamisme ekonomi negeri itu,” tulis Jason Kwon, ketua pegawai strategi di OpenAI, dalam surat pada bulan lepas yang menentang rang undang-undang itu. “SB 1047 akan mengancam pertumbuhan itu, memperlahankan kadar inovasi, dan menyebabkan jurutera dan usahawan kelas dunia California meninggalkan negeri itu untuk mencari peluang yang lebih besar di tempat lain.”

Penggubal Undang-undang Menentang

Penggubal undang-undang termasuk bekas Speaker Dewan Perwakilan, Nancy Pelosi, Wakil Ro Khanna dan Datuk Bandar San Francisco, London Breed juga menyuarakan tentangan mereka, menggemakan kebimbangan dari industri teknologi bahawa rang undang-undang itu boleh menghalang kepimpinan California dalam inovasi AI. Newsom baru-baru ini berkata beliau bimbang rang undang-undang itu mungkin mempunyai ” ” pada pembangunan AI.

Rang undang-undang itu telah mendapat sokongan daripada beberapa nama terkenal dalam teknologi pada akhir bulan lepas menjelang . Elon Musk secara mengejutkan menyuarakan sokongan beliau, walaupun beliau berkata ia adalah “panggilan yang sukar dan akan membuatkan sesetengah orang marah.” Pesaing OpenAI, Anthropic, yang mempunyai reputasi sebagai berorientasikan keselamatan, berkata “faedah rang undang-undang itu kemungkinan besar mengatasi kosnya,” walaupun syarikat itu berkata beberapa aspek masih “membimbangkan atau samar-samar kepada kami.” 

Wiener mempertahankan rang undang-undang itu, menekankan bahawa peruntukannya hanya terpakai kepada syarikat yang membelanjakan lebih daripada $100 juta untuk melatih model besar atau $10 juta untuk menyempurnakan model, had yang akan dikecualikan daripada kebanyakan permulaan yang lebih kecil. Penggubal undang-undang itu juga telah menyatakan bahawa Kongres secara historisnya lambat untuk mengawal selia teknologi itu sendiri.

Dalam mengumumkan vetonya, Newsom berkata beliau akan berunding dengan pakar luar, termasuk sarjana dan usahawan AI, Fei-Fei Li, untuk “membangunkan pengawal selia yang boleh dilaksanakan” pada teknologi itu dan terus bekerja dengan badan perundangan negeri mengenai topik tersebut. 

Gabenor itu juga menandatangani satu rang undang-undang pada hari Ahad, SB 896, yang mengawal selia bagaimana agensi negeri menggunakan AI.