Lewat teknologi AI yang semakin masif berkembang, hampir semua orang untuk menyulap gambar dan suara seperti aslinya dengan cukup beberapa langkah.

Semakin sulit untuk mengetahui apakah yang Anda lihat dan dengar di dunia maya itu nyata atau tidak. 

1. Kasus deepfake Taylor Swift

Gambar-gambar palsu Swift dibagikan secara luas di media sosial. Hal yang mengundang kemarahan para penggemarnya. Banyak muncul di X, sebelumnya dikenal sebagai Twitter, yang mengatakan bahwa mereka sedang berupaya menghapus “semua gambar yang teridentifikasi” dan akan mengambil “tindakan yang sesuai” terhadap mereka yang mempostingnya.

Satu postingan bertahan selama sekitar 17 jam dan memiliki lebih dari 45 juta penayangan, menurut The Verge, pertanda bahwa gambar-gambar ini dapat menjadi viral jauh sebelum ada tindakan yang diambil untuk menghentikannya.

X lantas memblokir konten tentang Swift, dan membalas pesan tersebut: “Ada yang tidak beres. Coba muat ulang” sebagai tanggapan jika Anda melakukan pencarian.

Kasus taylor Swift mengundang keprihatinan dari Gedung Putih, yang mengatakan bahwa Kongres harus mempertimbangkan undang-undang untuk menangani gambar-gambar palsu dan kasar yang menjamur di dunia maya. 

2. Deepfake lantas menjadi berita

Sebelumnya di bulan Januari, Xochitl Gomez, seorang aktris berusia 17 tahun dalam serial Marvel, berbicara tentang menemukan deepfake eksplisit secara seksual dengan wajahnya di media sosial dan tidak berhasil menghapus materi tersebut, demikian yang dilaporkan NBC News.

Pemalsuan wajah juga bermunculan pada pemilihan presiden AS tahun 2024. Penduduk New Hampshire menerima robocall sebelum pemilihan pendahuluan presiden di negara bagian tersebut. Suaranya terdengar seperti Presiden Joe Biden yang mendesak mereka untuk tetap tinggal di rumah dan “menyimpan suara Anda untuk pemilihan November.”

Suara tersebut bahkan mengucapkan salah satu frasa khas Biden: “Omong kosong.”

3. Bagaimana video deepfake dibuat

Video deepfake sering kali dibuat menggunakan algoritme AI yang dilatih untuk mengenali pola dalam rekaman video asli dari orang tertentu, sebuah proses deep learning.

Hal selanjutnya adalah peluang untuk menukar elemen dari satu video, seperti wajah seseorang, ke dalam konten lain tanpa terlihat seperti montase kasar.

Manipulasi ini paling menyesatkan ketika digunakan dengan teknologi kloning suara, dengan memecah klip audio seseorang yang berbicara menjadi potongan-potongan setengah suku kata dan dapat disusun kembali menjadi kata-kata baru. Hasilnya akan tampak diucapkan oleh orang tersebut dalam rekaman aslinya. 

4. Bagaimana teknologi deepfake berkembang

Teknologi ini awalnya merupakan domain akademisi dan peneliti. Namun, Motherboard, sebuah publikasi Vice, melaporkan pada tahun 2017 bahwa seorang pengguna Reddit yang disebut “deepfakes” telah menemukan sebuah algoritma untuk membuat video palsu dengan menggunakan kode sumber terbuka.

Meski Reddit telah bertindak, namun tetapi praktik algoritma terbuka video palsu menyebar.

Awalnya, deepfake membutuhkan video yang sudah ada dan penampilan vokal yang nyata, serta dibutuhkan keterampilan dalam proses edit.

Sistem AI generatif saat ini memungkinkan pengguna untuk menghasilkan gambar dan video yang lebih bagus hanya dari perintah tertulis sederhana.

Mintalah komputer untuk membuat video dengan memasukkan kata-kata dan video itu akan muncul.

Pemalsuan digital menjadi lebih sulit untuk dikenali karena perusahaan-perusahaan AI menerapkan alat baru pada materi yang sangat banyak tersedia di web, dari YouTube hingga perpustakaan gambar dan video.

5. Apa saja contoh lain dari deepfake

Troll Cina mengedarkan gambar yang dimanipulasi dari kebakaran hutan pada bulan Agustus di pulau Maui, Hawaii. Untuk mendukung pernyataan bahwa hal itu disebabkan oleh “senjata cuaca” rahasia yang sedang diuji coba oleh AS.

Pada bulan Mei 2023, saham-saham AS merosot sesaat setelah sebuah gambar yang tersebar secara online menunjukkan Pentagon terbakar. Para ahli mengatakan bahwa gambar palsu tersebut memiliki ciri khas yang dihasilkan oleh AI.

Pada bulan Februari, sebuah klip audio yang diproduksi muncul dengan suara seperti kandidat presiden Nigeria Atiku Abubakar. Ia berkata berencana mencurangi pemungutan suara bulan itu.

Pada 2021, sebuah video berdurasi satu menit yang dipublikasikan di media sosial menunjukkan Presiden Ukraina Volodymyr Zelenskiy memerintahkan tentaranya untuk meletakkan senjata dan menyerah kepada Rusia.

6. Bahaya deepfake

Ketakutannya adalah bahwa deepfakes pada akhirnya akan menjadi sangat meyakinkan sehingga tidak mungkin membedakan mana yang asli dan mana yang palsu.

Bayangkan para penipu memanipulasi harga saham dengan membuat video palsu tentang kepala eksekutif yang mengeluarkan informasi terbaru perusahaan, atau video palsu tentang tentara yang melakukan kejahatan perang.

Politisi, pebisnis, dan selebritas juga sangat berisiko, mengingat banyaknya rekaman mereka yang tersedia. Teknologi memungkinkan apa yang disebut sebagai pornografi balas dendam meskipun tidak ada foto atau video telanjang yang sebenarnya, dengan sasaran utama perempuan.

Begitu sebuah video menjadi viral di internet, hampir tidak mungkin untuk dibendung.

Kekhawatiran tambahan adalah bahwa menyebarkan kesadaran tentang deepfake akan memudahkan orang-orang yang benar-benar tertangkap basah melakukan atau mengatakan hal-hal tidak pantas atau ilegal, untuk mengklaim bahwa bukti yang memberatkan mereka adalah palsu. Beberapa orang sudah menggunakan pembelaan deepfake di pengadilan.

7. Cara mengatasi deepfake

Jenis machine learning yang menghasilkan deepfake tidak dapat untuk mendeteksinya. Tetapi beberapa perusahaan startup seperti Sensity AI, yang berbasis di Belanda, dan Sentinel yang berbasis di Estonia, sedang mengembangkan teknologi pendeteksian, seperti halnya banyak perusahaan teknologi besar di AS.

Intel Corp. meluncurkan produk FakeCatcher pada November 2022, diklaim mendeteksi video palsu dengan akurasi 96% dengan mengamati perubahan warna halus pada kulit subjek yang disebabkan oleh aliran darah.

Perusahaan-perusahaan termasuk Microsoft Corp, telah berjanji untuk menyematkan tanda digital berupa watermark pada gambar yang dibuat menggunakan alat AI mereka. Ini sebagai penanda bahwa ini hasil rekayasa atau palsu.

Badan legislatif negara bagian AS telah bergerak lebih cepat daripada Kongres untuk mengatasi bahaya langsung dari AI. Beberapa negara bagian telah memberlakukan undang-undang yang mengatur pemalsuan, sebagian besar dalam konteks pornografi dan pemilu. Undang-undang AI Uni Eropa yang diusulkan akan mewajibkan platform untuk melabeli deepfake dengan sebutan tersebut.

(wep)