Malaysian Buzz

(SeaPRwire) –   Tiada deepfake politik yang lebih membimbangkan pakar disinformation di seluruh dunia selain panggilan telefon palsu Presiden Amerika Syarikat Joe Biden yang mula tersebar pada hujung minggu.

Dalam mesej telefon, suara yang disunting untuk menyerupai Biden menggesa pengundi di New Hampshire supaya jangan mengundi dalam pilihan raya peringkat negeri Selasa. “Simpan undian anda untuk pilihan raya November,” kata mesej telefon itu. Ia juga menggunakan salah satu ungkapan khas Biden: “Apa yang membuang masa.” Sebenarnya, presiden tidak bertanding dalam pilihan raya New Hampshire – dan mengundi dalam pilihan raya peringkat negeri tidak menghalang orang ramai daripada mengambil bahagian dalam pilihan raya November nanti.

Ramai yang telah memperingatkan bahawa generator imej dan video berasaskan kecerdasan buatan baharu akan digunakan tahun ini untuk keuntungan politik, sementara wakil hampir separuh dunia bergantung kepada undian. Tetapi deepfake audio yang menjadi kebimbangan pakar sekarang. Ia mudah disunting, murah untuk dihasilkan dan terutamanya sukar untuk dikesan. Gabungkan mesej telefon yang meyakinkan dengan pangkalan data pendaftaran pengundi, dan pelaku jahat mempunyai senjata berkuasa yang sistem pilihan raya terbaik sekalipun tidak berupaya menangani, menurut penyelidik.

“Masa deepfake politik sudah tiba,” kata Robert Weissman, presiden pertubuhan pengguna Public Citizen. Beliau menyeru pembuat undang-undang supaya meletakkan perlindungan terhadap rakaman audio dan video palsu untuk mengelakkan “kekacauan pilihan raya.”

Mesej palsu Biden itu datang ketika semakin banyak kempen politik Amerika Syarikat menggunakan perisian AI untuk menghubungi pengundi secara besar-besaran – dan pelabur menyuntik wang ke syarikat permulaan penjana suara.

Pada Isnin, sementara mesej telefon deepfake itu tersebar, syarikat penjana suara AI ElevenLabs mengumumkan ia telah mengumpul dana baharu yang menilai syarikat itu pada $1.1 bilion.

Rakaman politik diubahsuai itu bukanlah yang pertama. Tahun lepas, deepfake audio tersebar di media sosial menjelang pilihan raya parlimen Slovakia, termasuk satu klip di mana ketua parti Michal Simecka kelihatan membincangkan rancangan untuk membeli undian.

Masih tidak jelas bagaimana mesej Biden itu dihasilkan. Peguam Negara New Hampshire sedang menyiasat panggilan itu pada Isnin. Tetapi mengesan deepfake audio ke sumber asal akan membuktikan terutamanya sukar kerana ia disebarkan melalui telefon berbanding dalam talian, menurut Joan Donovan, profesor pembantu dalam pengajian media baharu dan jurnalistik di Boston University.

“Ini merupakan petanda taktik kotor generasi baharu,” kata Donovan.

Terdapat sebab lain mengapa potongan palsu Biden itu lebih membimbangkan pakar disinformation dan pegawai pilihan raya. Ia mengesahkan ketakutan terbesar mereka: Pelaku jahat menggunakan deepfake bukan sahaja untuk mempengaruhi pendapat awam tetapi juga menghalang pengundi daripada datang ke tempat mengundi.

“Sekiranya maklumat salah yang hanya mempengaruhi beberapa ratus atau ribu undian, ia masih bermakna dari segi keputusan dan hasilnya,” kata Nick Diakopoulos, profesor di Universiti Northwestern yang telah menyelidik rakaman audio dan pilihan raya yang diubahsuai.

Suruhanjaya Pilihan Raya Persekutuan Amerika Syarikat telah mengambil langkah kecil untuk mengawal selia deepfake politik, tetapi ia belum menindak tegas teknologi yang membantu menghasilkannya. Sesetengah negeri telah mencadangkan undang-undang sendiri untuk mengekang deepfake.

Pegawai pilihan raya sedang menjalani latihan untuk bersedia menghadapi serangan. Sekitar 100 pegawai persekutuan dan negeri berkumpul di Colorado pada Ogos untuk berfikir cara terbaik bertindak balas kepada video palsu hipotetikal yang mengandungi maklumat pilihan raya palsu. Deepfake menjadi tumpuan latihan lain di Arizona pada Disember apabila pegawai bekerja melalui senario di mana video Setiausaha Negeri Adrian Fontes diubahsuai untuk menyebarkan maklumat tidak tepat.

Sementara itu, alat pengesanan deepfake masih berada dalam peringkat awal dan keputusannya masih tidak pasti.

Pada Isnin, contohnya, alat pengesanan ElevenLabs menunjukkan bahawa panggilan Biden tidak berkemungkinan dihasilkan menggunakan perisian penjanaan semula – walaupun syarikat pengesanan deepfake Clarity menyatakan ia lebih 80% mungkin merupakan deepfake.