Pencarian Taylor Swift Diblokir X

0

Platform media sosial X, sebelumnya Twitter, telah memblokir pencarian nama Taylor Swift untuk menindak penyebaran video deepfake yang eksplisit secara seksual dari bintang pop tersebut, sehingga mengungkap tantangan dalam menangani konten semacam itu.

“Ini adalah tindakan sementara dan dilakukan dengan sangat hati-hati karena kami memprioritaskan keselamatan dalam masalah ini,” Joe Benarroch, Kepala Operasi Bisnis di X, mengatakan pada hari Minggu. Pada saat publikasi, pencarian nama Taylor Swift di X masih belum dapat diakses.

Pada hari Jumat, akun Safety X di platform tersebut memposting bahwa ketelanjangan tanpa persetujuan sangat dilarang dan perusahaan ini memiliki kebijakan tanpa toleransi terhadap konten semacam itu. Tim secara aktif menghapus semua gambar yang teridentifikasi dan mengambil tindakan yang sesuai terhadap akun yang bertanggung jawab mempostingnya, bunyi pernyataan itu. “Kami berkomitmen untuk menjaga lingkungan yang aman dan menghormati semua pengguna.”

Deepfake Swift telah menyoroti masalah pornografi yang dihasilkan oleh AI, di mana wajah seseorang ditumpangkan pada gambar atau video eksplisit tanpa persetujuan mereka, dan perlunya perlindungan hukum yang lebih besar seiring dengan kesulitan regulasi untuk mengimbangi teknologi. Seperti yang diakui X, ban pencarian adalah tindakan sementara. Meskipun hal ini telah digunakan untuk menangani kasus khusus ini, hal ini bukanlah solusi jangka panjang untuk masalah yang berdampak luas.

96% dari semua deepfake online pada tahun 2019 adalah pornografi non konsensual, dan hampir semuanya adalah wanita, menurut analis media Sensity, dan FBI memperingatkan tahun lalu bahwa konten ini dapat digunakan untuk pemerasan dan kriminal finansial.

“Ini mengkhawatirkan,” kata Sekretaris Pers White House Karine Jean-Pierre kepada wartawan pada hari Jumat ketika ditanya tentang deepfake Swift. “Meskipun perusahaan media sosial membuat keputusan independen mengenai pengelolaan konten, kami yakin mereka memiliki peran penting dalam menegakkan aturan mereka sendiri untuk mencegah penyebaran informasi yang salah dan gambar intim non konsensual dari orang-orang asli.”

Meskipun 10 negara bagian mengkriminalisasi deepfake, undang-undang federal tidak mengkriminalisasinya, dan legislator di kongres berupaya untuk melarang konten tersebut.

Anggota Partai Republik Joe Morelle, seorang demokrat dari New York, memperkenalkan Undang-Undang Pencegahan Pemalsuan Gambar Intim tahun lalu, namun UU tersebut belum dikembangkan. Anggota Partai Demokrat New York lainnya, anggota parlemen Yvette Clarke, memperkenalkan Undang-Undang Akuntabilitas Deepfakes tahun lalu untuk melindungi dari ancaman keamanan nasional dan memberikan bantuan hukum kepada para korban.

Pada bulan Januari, para legislator memperkenalkan Undang-Undang Tanpa Replika Palsu dan Duplikasi Tidak Sah (Tanpa Penipuan AI) untuk melindungi orang Amerika dari manipulasi AI atas suara dan gambar mereka.

Menanggapi pertanyaan wartawan tentang usulan undang-undang, Jean-Pierre mengatakan tentu saja harus ada undang-undang untuk mengatasi masalah ini, namun ia menekankan bahwa Presiden Joe Biden sudah mengambil tindakan dengan mengeluarkan perintah eksekutif tentang bagaimana pemerintahannya akan mengendalikan AI generatif dan membentuk gugus tugas untuk mengatasi pelecehan online.

(Visited 1 times, 1 visits today)

Leave a Reply

Your email address will not be published. Required fields are marked *