Saya telah mengikuti kisah ini berkembang selama beberapa tahun terakhir dan jujur saja, sangat luar biasa bagaimana sebuah aplikasi pesan menjadi titik nol krisis kejahatan seksual digital di Korea.

Jadi pada dasarnya, Telegram telah berada di bawah tekanan besar dari otoritas Korea Selatan karena penyebaran pornografi deepfake di platform tersebut. Kita berbicara tentang video eksploitasi seksual yang dibuat menggunakan teknologi deepfake, sebagian besar menargetkan anak di bawah umur dan wanita. Satu grup Telegram saja dilaporkan memiliki 220.000 anggota yang berbagi konten ini.

Komisi Standar Komunikasi Korea akhirnya berhasil membuat Telegram menghapus 25 materi pornografi deepfake setelah berbulan-bulan menolak. Sebelumnya, perusahaan tersebut pada dasarnya mengabaikan permintaan regulasi. Mereka meminta maaf atas "kesalahpahaman" dan membuat saluran email khusus untuk melaporkan konten ilegal. Sangat mencolok bahwa dibutuhkan tekanan sebesar ini untuk mendapatkan kepatuhan dasar.

Apa yang benar-benar memperkuat semuanya adalah penangkapan Pavel Durov di Prancis tahun lalu dengan tuduhan termasuk keterlibatan dalam distribusi materi pelecehan seksual anak. Waktu penangkapan itu secara otomatis memaksa Telegram menjadi sorotan global. Durov membayar jaminan sebesar 5 juta euro, tetapi drama hukum ini menimbulkan pengawasan serius terhadap bagaimana platform menangani moderasi.

Skala masalah di Korea benar-benar mengkhawatirkan. Data polisi menunjukkan kasus deepfake hampir dua kali lipat dari 156 pada 2021 menjadi 297 pada pertengahan 2023. Mahasiswa universitas, pelajar SMA, penyanyi K-pop, aktris yang menjadi target dengan video palsu eksplisit. Setidaknya 500 sekolah dilaporkan terdampak. Enam dari sepuluh korban kejahatan deepfake selama tiga tahun adalah anak-anak.

Ini sebenarnya berakar dari 2020 ketika seorang pria bernama Cho Ju-bin menjalankan sesuatu yang disebut Nth Room di Telegram, pada dasarnya operasi perdagangan seks menggunakan pemerasan. Dia mendapatkan hukuman 40 tahun penjara, tetapi ini menunjukkan betapa rentannya platform bahkan saat itu.

Presiden Yoon cukup vokal tentang nol toleransi terhadap hal ini. Pemerintahannya mendorong penegakan hukum secara keras, dan jujur saja, undang-undang sudah ada—hingga lima tahun penjara atau denda sekitar $37.500 untuk membuat dan menyebarkan video deepfake ini di Korea.

Pertanyaan utama sekarang adalah apakah Telegram benar-benar berkomitmen untuk perubahan yang berarti atau ini hanya upaya PR untuk mengurangi kerusakan. Menghapus 25 video dan membuat alamat email terasa seperti penanganan luka yang jauh lebih besar. Sejarah platform yang menghindar dari regulator tidak benar-benar memberi kepercayaan bahwa mereka akan tiba-tiba menjadi proaktif dalam menegakkan aturan terhadap konten ini.

Ini telah menjadi persimpangan antara hak privasi, akuntabilitas platform, dan perlindungan orang yang rentan dari eksploitasi digital. Korea pada dasarnya telah menjadi tempat uji bagaimana pemerintah menekan platform terenkripsi yang mengklaim tidak bisa melakukan moderasi.