He estado siguiendo esta historia en los últimos años y, honestamente, es increíble cómo una aplicación de mensajería se convirtió en el punto cero de una crisis de delitos sexuales digitales en Corea.

Básicamente, Telegram ha estado bajo una enorme presión de las autoridades surcoreanas por la difusión de pornografía deepfake en la plataforma. Hablamos de videos sexualmente explotadores creados con tecnología deepfake, dirigidos principalmente a menores y mujeres. Se reporta que un solo grupo de Telegram tenía 220,000 miembros compartiendo este tipo de contenido.

La Comisión de Normas de Comunicaciones de Corea finalmente logró que Telegram eliminara 25 piezas de material pornográfico deepfake después de meses de resistencia. Antes de eso, la compañía prácticamente ignoraba las solicitudes regulatorias. Se disculparon por la "mala comunicación" y establecieron una línea directa de correo electrónico para reportar contenido ilegal. Es bastante revelador que haya sido necesario tanta presión para lograr un cumplimiento básico.

Lo que realmente amplificó todo fue el arresto de Pavel Durov en Francia el año pasado, por cargos que incluían complicidad en la distribución de material de abuso sexual infantil. El momento prácticamente obligó a Telegram a estar en el centro de atención mundial. Durov pagó una fianza de 5 millones de euros, pero el drama legal puso un escrutinio serio sobre cómo la plataforma maneja la moderación.

La magnitud del problema en Corea es realmente alarmante. Datos policiales mostraron que los casos de deepfake casi se duplicaron, pasando de 156 en 2021 a 297 a mediados de 2023. Estudiantes universitarios, de secundaria, cantantes de K-pop, actrices siendo atacados con videos falsos explícitos. Al menos 500 escuelas fueron señaladas como afectadas. Seis de cada diez víctimas de delitos deepfake en tres años eran niños.

Esto en realidad remonta a 2020, cuando un tipo llamado Cho Ju-bin dirigía algo llamado la Nth Room en Telegram, básicamente una operación de trata sexual usando chantajes. Recibió 40 años de prisión, pero mostró lo vulnerable que era la plataforma incluso entonces.

El presidente Yoon ha sido bastante vocal sobre la tolerancia cero a esto. Su administración presionó fuerte en la aplicación de la ley, y honestamente, la ley ya está allí: hasta cinco años de prisión o aproximadamente 37,500 dólares de multa por crear y distribuir estos videos deepfake en Corea.

La verdadera pregunta ahora es si Telegram realmente se compromete a un cambio significativo o si esto es solo una maniobra de relaciones públicas para controlar daños. Eliminar 25 videos y establecer una dirección de correo electrónico parece una curita en una herida mucho mayor. La historia de la plataforma de evadir a los reguladores no inspira confianza en que de repente se vuelvan proactivos en la vigilancia de este contenido.

Se ha convertido en esta intersección de derechos a la privacidad, responsabilidad de la plataforma y protección de las personas vulnerables contra la explotación digital. Corea básicamente se ha convertido en el campo de pruebas de cómo los gobiernos presionan a plataformas encriptadas que afirman no poder moderar.