Malaysian Buzz

(SeaPRwire) –   Selamat datang ke Eye on AI, bersama wartawan AI Sharon Goldman. Dalam edisi ini…Bagaimana AI menjadikan serangan siber murah untuk penggodam…Ahli undang-undang AS mengatakan membantu DeepSeek mengasah model AI yang kemudian digunakan oleh tentera China…. Chemical akan memberhentikan 4,500 pekerja dalam transformasi AI…Di sebalik rancangan Anthropic untuk mengimbas dan melupuskan berjuta-juta buku.

Salah satu fiksasi berterusan saya dalam AI adalah apa yang dilakukannya kepada keselamatan siber. Dua bulan lalu dalam Eye on AI, saya memetik kata-kata seorang pemimpin keselamatan yang menggambarkan keadaan semasa sebagai “suram,” apabila perniagaan bergelut untuk mengamankan sistem dalam dunia di mana agen AI bukan lagi hanya menjawab soalan, tetapi bertindak secara autonomi.

Minggu ini, saya berbual dengan Gal Nagli, ketua pendedahan ancaman di syarikat permulaan keselamatan awan bernilai $32 bilion Wiz, dan Omer Nevo, pengasas bersama dan CTO di Irregular, sebuah makmal keselamatan AI yang disokong Sequoia yang bekerjasama dengan OpenAI, Anthropic, dan . Wiz dan Irregular baru-baru ini menyiapkan satu mengenai ekonomi sebenar serangan siber yang didorong AI. 

Serangan siber berkuasa AI dengan harga murah

Mereka mendapati bahawa penggodaman berkuasa AI menjadi sangat murah. Dalam ujian mereka, agen AI melengkapkan cabaran keselamatan ofensif yang canggih dengan kos LLM di bawah $50 — tugas yang biasanya menelan kos hampir $100,000 jika dilakukan oleh penyelidik manusia yang dibayar untuk mencari kelemahan sebelum penjenayah melakukannya. Dalam senario terkawal dengan sasaran yang jelas, agen-agen itu menyelesaikan 9 daripada 10 serangan yang dimodelkan berdasarkan dunia sebenar, menunjukkan bahawa sebahagian besar kerja keselamatan ofensif sudah menjadi pantas, murah, dan automatik.

“Malah untuk ramai profesional berpengalaman yang telah melihat kedua-dua AI dan keselamatan siber, ia benar-benar mengejutkan dari segi apa yang kami tidak sangka AI akan mampu lakukan dan model-model itu akan mampu lakukan,” kata Nevo, yang menambah bahawa hanya dalam beberapa bulan kebelakangan ini terdapat lonjakan besar dalam keupayaan. Satu bidang adalah dalam model AI yang mampu kekal berada di landasan untuk melakukan cabaran berbilang langkah tanpa kehilangan fokus atau berputus asa. “Kami semakin melihat bahawa model-model mampu menyelesaikan cabaran yang benar-benar di peringkat pakar, bahkan untuk profesional keselamatan siber ofensif,” katanya. 

Ini adalah masalah khusus sekarang, kerana dalam banyak organisasi, profesional bukan teknikal, seperti dalam pemasaran atau reka bentuk, menghidupkan aplikasi menggunakan alat pengekodan yang mudah diakses seperti Claude Code Anthropic dan Codex OpenAI. Ini adalah orang yang bukan jurutera, jelas Nagli. “Mereka tidak tahu apa-apa tentang keselamatan, mereka hanya membangunkan aplikasi baru sendiri, dan mereka menggunakan data sensitif yang terdedah kepada Internet awam, dan kemudian ia sangat mudah dieksploitasi,” katanya. “Ini mewujudkan permukaan serangan yang sangat besar.”

Kos bukan lagi isu untuk penggodam

Penyelidikan itu mencadangkan bahawa permainan kucing dan tikus keselamatan siber tidak lagi dibatasi oleh kos. Penjenayah tidak lagi perlu memilih sasaran mereka dengan berhati-hati jika agen AI boleh menyiasat dan mengeksploitasi sistem hanya dengan beberapa dolar. Dalam landskap ekonomi baru ini, setiap sistem yang terdedah menjadi berbaloi untuk diuji. Setiap kelemahan menjadi berbaloi untuk dicuba.

Dalam keadaan dunia sebenar yang lebih realistik, para penyelidik memang melihat penurunan prestasi dan kos berganda. Namun, pengajaran yang lebih besar kekal: serangan menjadi lebih murah dan pantas untuk dilancarkan. Dan kebanyakan syarikat masih mempertahankan diri seolah-olah setiap serangan serius memerlukan tenaga manusia yang mahal.

“Jika kita mencapai tahap di mana AI mampu menjalankan serangan canggih, dan ia mampu melakukannya pada skala besar, tiba-tiba lebih ramai orang akan terdedah, dan itu bermakna [walaupun di] organisasi yang lebih kecil orang perlu mempunyai kesedaran keselamatan siber yang jauh lebih baik daripada yang mereka ada hari ini,” kata Nevo. 

Pada masa yang sama, itu bermakna menggunakan AI untuk pertahanan akan menjadi keperluan kritikal, katanya, yang menimbulkan persoalan: “Adakah kita membantu pembela menggunakan AI dengan cukup pantas untuk dapat mengikuti apa yang pelaku ofensif sudah lakukan?”

Dengan itu, berikut adalah lebih banyak berita AI.

Sharon Goldman
sharon.goldman@
@sharongoldman