“Meskipun gambar-gambar pornografi Taylor Swift yang viral telah membawa perhatian utama pada masalah gambar-gambar intim non-konsensual yang dihasilkan oleh AI, dia bukanlah satu-satunya korban,” kata Cristina López G., seorang analis senior di Graphika.
“Dalam kanal 4chan, dimana gambar-gambar ini berasal, dia bahkan bukan figur publik yang paling sering menjadi target. Hal ini menunjukkan bahwa siapa pun bisa menjadi target dengan cara ini, dari selebriti global hingga anak-anak sekolah.”
Perwakilan dari 4chan tidak menanggapi permintaan komentar.
Menurut analisis Graphika, deepfakes berasal dari saluran tersebut pada awal Januari , ebelum berpindah ke Telegram dan kemudian X, yang dipaksa untuk memblokir semua pencarian Taylor Swift setelah gambar-gambar seksual karena memicu kemarahan.
Salah satu gambar tetap berada di X selama 17 jam dan memiliki lebih dari 45 juta penayangan, menurut The Verge.
Banyak perusahaan pembuat teks-ke-gambar, dengan bantuan AI generatif, telah melarang kata kunci tertentu untuk menghentikan pengguna membuat konten berbahaya.
Hal yang pada proses lanjutan, justru beberapa pengguna di 4chan dan forum online lainnya telah berbagi tips tentang cara menerobos langkah-langkah keamanan ini.
“Gambar-gambar ini berasal dari komunitas orang-orang yang termotivasi oleh 'tantangan' untuk menghindari perlindungan produk AI generatif, dan pembatasan baru dilihat sebagai hambatan lain untuk 'dikalahkan,” kata López G.
“Sangat penting untuk memahami sifat gamifikasi dari aktivitas berbahaya ini untuk mencegah penyalahgunaan lebih lanjut pada sumbernya.”
Gambar-gambar viral dari Swift telah membantu mendorong deepfake non-konsensual ke puncak agenda politik. Sebelumnya selama bertahun-tahun terdapat kekhawatiran dari para ahli bahwa teknologi ini semakin tidak terkendali.
Gedung Putih mengeluarkan pernyataan yang mengutuk gambar-gambar Taylor Swift. Anggota Kongres Joe Morelle, seorang anggota Partai Demokrat dari New York, mengatakan bahwa insiden ini akan menarik perhatian pada upayanya untuk menjadikan pornografi deepfake sebagai kejahatan federal.
Pelaku kejahatan ini dapat dikenai denda dan hukuman penjara.
Di kanal 4chan, Taylor Swift hanyalah salah satu dari sekian banyak selebriti yang kemiripannya digunakan untuk membuat gambar-gambar seksual atau kekerasan. Lainnya termasuk Billie Eilish, Ariana Grande dan Emma Watson.
Perwakilan dari Taylor Swift, Eilish, Grande dan Watson tidak menanggapi permintaan komentar.
Pada 30 Januari, permintaan deepfake Swift masih terus dibuat, termasuk setidaknya satu permintaan yang mencari gambar kekerasan terhadap dirinya.
Pornografi deepfake selebriti telah tersedia di internet di berbagai situs web selama bertahun-tahun, tetapi kasus-kasus yang melibatkan orang biasa, meningkat seiring dengan kecanggihan dan kemudahan orang untuk mengakses teknologi, menurut para ahli.
Bahkan seringkali para korban tidak memiliki banyak pilihan dan kesulitan untuk menghapus gambar-gambar tersebut.
(bbn)
