Malaysian Buzz

(SeaPRwire) –   Platform media sosial X, yang dahulunya Twitter, telah menghalang carian nama Taylor Swift untuk menindas penyebaran deepfakes seks yang secara eksplisit mengenai bintang pop itu, mendedahkan cabaran menangani kandungan sedemikian.

“Ini adalah tindakan sementara dan dilakukan dengan berhati-hati kerana kami memberi keutamaan keselamatan isu ini,” kata Joe Benarroch, ketua operasi perniagaan di X, kepada TIME dalam emel Ahad. Setakat masa penerbitan, carian nama Taylor Swift masih tidak dapat diakses di X.

Pada Jumaat, akaun Keselamatan X di platform itu memaparkan bahawa ketelanjangan tidak kerelaan adalah sangat dilarang dan syarikat itu mempunyai “Pasukan sedang menyingkirkan semua imej yang dikenal pasti dan mengambil tindakan sewajarnya terhadap akaun yang bertanggungjawab menghantarnya,” kenyataan itu membaca. “Kami komited untuk mengekalkan persekitaran yang selamat dan menghormati bagi semua pengguna.”

TIME telah menghubungi jurucakap rasmi Swift untuk ulasan.

Deepfakes Swift telah menyorot isu pornografi yang dijana AI, di mana wajah seseorang disisipkan ke dalam gambar atau video eksplisit tanpa keizinan mereka, dan cabaran pengawalseliaan untuk menyesuaikan diri dengan teknologi. Seperti yang diakui X, menghalang carian adalah langkah sementara. Walaupun ia telah digunakan untuk memberi kesan dalam kes khusus ini, ia bukan penyelesaian jangka panjang untuk masalah yang meluas.

Sembilan puluh enam peratus semua deepfakes dalam talian pada tahun 2019 adalah pornografi tidak kerelaan, hampir kesemuanya wanita, menganalisis media Sensity, dan FBI bahawa kandungan ini boleh digunakan untuk keganasan dan keuntungan kewangan jenayah.

“Ia membimbangkan,” kata Setiausaha Akhbar Putih Karine Jean-Pierre apabila diminta mengenai deepfakes Swift. “Walaupun syarikat media sosial membuat keputusan bebas tentang pengurusan kandungan, kami percaya mereka memainkan peranan penting dalam menguatkuasakan peraturan mereka sendiri untuk mencegah penyebaran maklumat palsu dan imej intim tidak kerelaan orang sebenar.”

Walaupun 10 negeri mengkriminalisasikan deepfakes, undang-undang persekutuan tidak, dan perundangan di Kongres meningkatkan usaha untuk mengharamkan kandungan itu.

Ahli Parlimen Demokrat New York, Joe Morelle, memperkenalkan tahun lalu, tetapi undang-undang itu belum bergerak ke depan. Demokrat New York yang lain, Wakil Yvette Clarke, memperkenalkan tahun lalu untuk melindungi terhadap ancaman keselamatan negara dan memberikan rekurs undang-undang kepada mangsa.

Pada Januari, perundangan memperkenalkan untuk melindungi rakyat Amerika daripada manipulasi AI terhadap suara dan imej mereka.

Berikutan soalan dari seorang wartawan tentang undang-undang yang dicadangkan, Jean-Pierre berkata “harus ada undang-undang, tentu sahaja, untuk menangani isu ini,” tetapi menunjukkan bahawa Presiden Joe Biden sudah mengambil tindakan dengan mengarang bagaimana pentadbirannya akan mentadbir AI generatif dan mencipta pasukan kerja untuk.