Keputusan Korea Selatan ini muncul ketika pendiri Telegram, Pavel Durov, ditahan di Prancis akhir pekan ini karena tuduhan bahwa aplikasi perpesanan ini gagal memerangi kejahatan di aplikasinya secara memadai, termasuk penyebaran materi pelecehan seksual terhadap anak-anak.

Sebagian besar deepfake adalah video dan gambar eksplisit yang dibuat dengan cara memetakan wajah selebritas ke tubuh orang lain. Beberapa digunakan untuk menipu konsumen, atau untuk merusak reputasi politisi dan orang lain di mata publik.

Pada 8 Februari, Komisi Komunikasi Federal AS melarang perusahaan untuk menggunakan suara yang dihasilkan oleh AI dalam panggilan otomatis.

Larangan tersebut muncul dua hari setelah Komisi Komunikasi Federal mengeluarkan perintah penghentian terhadap perusahaan yang bertanggung jawab atas pemalsuan audio Presiden Joe Biden. 

Anggota parlemen di Korea Selatan telah mengajukan RUU untuk mengamendemen undang-undang tentang kepemilikan atau penayangan video pemalsuan.

Saat ini, seseorang yang memproduksi deepfake dengan maksud untuk mendistribusikannya dapat dijatuhi hukuman hingga lima tahun penjara atau denda 50 juta won (US$37.448).

(bbn)