Korea Selatan Selidiki Telegram Atas Kejahatan Seks Deepfake

• Korea Selatan meluncurkan penyelidikan atas dugaan peran Telegram dalam mendistribusikan konten deepfake eksplisit.
• Pendiri Telegram Pavel Durov baru-baru ini ditangkap di Prancis karena gagal memerangi kegiatan ilegal.
• Lonjakan kejahatan seks deepfake online mendorong tindakan mendesak dari pihak berwenang Korea Selatan.

Pihak berwenang Korea Selatan sedang menyelidiki platform perpesanan Telegram atas potensi keterlibatannya dalam kejahatan seks online deepfake. Penyelidikan, menurut laporan Reuters, akan fokus pada apakah Telegram memfasilitasi distribusi konten deepfake seksual eksplisit. Perkembangan ini menyusul penangkapan pendiri Telegram Pavel Durov baru-baru ini di Prancis atas tuduhan terkait penanganan aktivitas ilegal oleh platform tersebut.

Telegram, yang berkantor pusat di Dubai, memiliki hampir satu miliar pengguna di seluruh dunia. Meskipun pejabat di biro investigasi siber Badan Kepolisian Nasional menolak berkomentar, pihak berwenang Korea Selatan dilaporkan telah mendesak Telegram dan platform media sosial lainnya untuk membantu memerangi penyebaran konten deepfake seksual eksplisit.

Karena itu, penyelidikan mengumpulkan uap setelah beberapa laporan dari outlet media domestik menyoroti prevalensi gambar dan video deepfake seksual yang eksplisit dari wanita Korea Selatan dan gadis di bawah umur di ruang obrolan Telegram.

Insiden ini menyoroti masalah yang lebih luas di Korea Selatan, yang telah berjuang dengan kejahatan seks digital selama bertahun-tahun. Para aktivis telah lama memperingatkan tentang prevalensi kejahatan semacam itu, termasuk penggunaan kamera mata-mata dan porno balas dendam. Pada tahun 2020, Cho Ju-bin, pemimpin lingkaran pelecehan seksual online, menerima hukuman penjara 42 tahun.

Namun, hal itu tidak banyak membantu memerangi meningkatnya kejahatan seks deepfake online di Korea Selatan, karena polisi melaporkan 297 kasus dalam tujuh bulan pertama tahun ini, peningkatan signifikan dari 180 kasus pada tahun 2023 dan 160 pada tahun 2021.

Meskipun Telegram belum membuat pernyataan publik tentang penyelidikan tersebut, perusahaan menyatakan pekan lalu bahwa mereka secara aktif memoderasi konten berbahaya di platformnya, termasuk pornografi ilegal, menggunakan kombinasi pemantauan proaktif, alat AI, dan laporan pengguna untuk menghapus jutaan konten berbahaya setiap hari.

Ketika Telegram menghadapi pengawasan atas peran potensialnya dalam memfasilitasi distribusi konten deepfake eksplisit, kasus ini menggarisbawahi kebutuhan mendesak untuk langkah-langkah yang lebih kuat untuk memerangi eksploitasi online dan melindungi individu yang rentan.