Margi Murphy - Bloomberg News - 

Bloomberg, Aplikasi dan situs web yang menggunakan kecerdasan buatan untuk menelanjangi kaum hawa di foto semakin populer, menurut para peneliti.

Pada bulan September saja, 24 juta orang mengunjungi situs-situs telanjang, menurut temuan perusahaan analisis jaringan sosial Graphika.

Banyak dari layanan membuka baju atau “nudify” ini menggunakan jejaring sosial populer untuk pemasaran, menurut Graphika. Misalnya, sejak awal tahun ini, jumlah tautan yang mengiklankan aplikasi membuka baju meningkat lebih dari 2.400% di media sosial, termasuk di X dan Reddit, kata para peneliti. Layanan tersebut menggunakan AI untuk membuat ulang gambar sehingga orang tersebut telanjang. Banyak layanan yang hanya melayani perempuan.

Aplikasi-aplikasi ini adalah bagian dari tren pengembangan dan distribusi pornografi non-konsensual yang mengkhawatirkan karena kemajuan dalam kecerdasan buatan – sejenis media palsu yang dikenal sebagai pornografi deepfake. Penyebarannya menghadapi rintangan hukum dan etika yang serius, karena gambar-gambar tersebut sering kali diambil dari media sosial dan disebarluaskan tanpa persetujuan, kendali, atau sepengetahuan subjek.

Peningkatan popularitas ini sejalan dengan dirilisnya beberapa model difusi open source, atau kecerdasan buatan yang dapat menghasilkan gambar yang jauh lebih unggul daripada yang dibuat beberapa tahun lalu, kata Graphika. Karena bersifat open source, model yang digunakan pengembang aplikasi tersedia secara gratis.

“Anda dapat membuat sesuatu yang benar-benar terlihat realistis,” kata Santiago Lakatos, analis di Graphika, seraya mencatat bahwa deepfake sebelumnya sering kali kabur.

Satu gambar yang diposting ke X mengiklankan aplikasi membuka pakaian menggunakan bahasa yang menyarankan pelanggan dapat membuat gambar telanjang dan kemudian mengirimkannya ke orang yang gambarnya ditelanjangi secara digital, sehingga memicu pelecehan. Sementara itu, salah satu aplikasinya telah membayar untuk konten bersponsor di Google YouTube, dan muncul pertama kali saat menelusuri dengan kata “nudify”.

Banyak korban tidak pernah mengetahui tentang gambar-gambar tersebut, namun bahkan mereka yang mengetahuinya mungkin kesulitan untuk meminta penegak hukum melakukan penyelidikan atau mencari dana untuk mengambil tindakan hukum, kata Galperin.

Saat ini tidak ada undang-undang federal yang melarang pembuatan pornografi deepfake, meskipun pemerintah AS melarang pembuatan gambar-gambar anak di bawah umur semacam ini. Pada bulan November, seorang psikiater anak di Carolina Utara dijatuhi hukuman 40 tahun penjara karena menggunakan aplikasi membuka pakaian pada foto pasiennya, ini merupakan kasus pidana pertama berdasarkan undang-undang yang melarang pembuatan materi pelecehan seksual terhadap anak dalam bentuk deepfake.

TikTok telah memblokir kata kunci “menanggalkan pakaian” atau undress sebuah istilah pencarian populer yang terkait dengan layanan tersebut, memperingatkan siapa pun yang mencari kata tersebut bahwa kata tersebut “mungkin terkait dengan perilaku atau konten yang melanggar pedoman kami,” menurut aplikasi tersebut. Seorang perwakilan TikTok menolak menjelaskan lebih lanjut.

Menanggapi pertanyaan, Meta Platforms Inc. juga mulai memblokir kata kunci yang terkait dengan pencarian aplikasi membuka baju. Seorang juru bicara menolak berkomentar.