Imagina despertar y descubrir que imágenes explícitas tuyas circulan en internet, pero nunca posaste para ellas. Esta pesadilla se hizo realidad para Heejin, una estudiante universitaria surcoreana, cuando recibió un mensaje anónimo en Telegram el sábado pasado. El remitente afirmaba haber filtrado sus fotos e información personal. Lo que siguió fue una serie de imágenes sexualmente explícitas con el rostro de Heejin integrado perfectamente utilizando sofisticada tecnología de deepfake porn0. “Estaba petrificada, me sentía tan sola”, confesó Heejin a la BBC en una entrevista realizada el 3 de septiembre de 2024.

El incidente de Heejin no es un caso aislado. La periodista surcoreana Ko Narin destapó un escándalo masivo que involucra redes de deepfake porn0 en las principales universidades del país. Su investigación, publicada en el periódico Hankyoreh el 1 de septiembre de 2024, reveló docenas de grupos de chat en Telegram donde los usuarios compartían fotos de mujeres que conocían y utilizaban software de IA para convertirlas en imágenes pornográficas falsas en cuestión de segundos. “Cada minuto, la gente subía fotos de chicas que conocían y pedían que se convirtieran en deepfakes”, relató Ko a la BBC.

El alcance de esta epidemia de deepfake porn0 es asombroso. En solo unos días después del informe de Ko, se identificaron más de 500 escuelas y universidades como objetivos. Se cree que muchas víctimas son menores de 16 años, la edad de consentimiento en Corea del Sur. Lo particularmente alarmante es que una gran proporción de los presuntos perpetradores son adolescentes, lo que destaca una tendencia preocupante entre los jóvenes. Ko descubrió un grupo para alumnos menores de edad de una escuela con más de 2,000 miembros, un hallazgo que calificó como “lo más horroroso” de su investigación.

El Lado Oscuro de la Tecnología: Cómo se Propaga el Deepfake Porn0

En el centro de esta crisis de deepfake porn0 se encuentra Telegram, una aplicación de mensajería privada y encriptada. Las características de la plataforma, como usuarios anónimos, salas secretas y la capacidad de eliminar contenido rápidamente sin dejar rastro, la han convertido en un caldo de cultivo para el comportamiento criminal. La dificultad para acceder y eliminar contenido de estos canales privados ha permitido que la propagación de deepfake porn0 florezca sin control. El 2 de septiembre de 2024, la policía de Seúl anunció que estaba considerando abrir una investigación sobre Telegram, siguiendo el ejemplo de las autoridades francesas, que recientemente acusaron al fundador ruso de Telegram por delitos relacionados con la aplicación.

La creación y distribución de deepfake porn0 se ha vuelto alarmantemente sistemática. Algunos grupos de Telegram, etiquetados cínicamente como “salas de humillación” o “salas de amigos de amigos”, tienen requisitos de entrada estrictos. A menudo se requiere que los usuarios publiquen múltiples fotos de una víctima junto con detalles personales como nombre, edad y ubicación. Este enfoque organizado ha llevado a la creación de salas dedicadas a escuelas específicas e incluso a estudiantes individuales que son frecuentemente objetivo de estos ataques. La BBC tuvo acceso a las descripciones de varias de estas salas de chat, confirmando la naturaleza sistemática de estas actividades.

El Impacto Devastador del Deepfake Porn0 en las Víctimas y la Sociedad

Las consecuencias de esta crisis de deepfake porn0 son de largo alcance. Víctimas como Heejin experimentan miedo intenso, ansiedad y autoculpa. Muchas mujeres y adolescentes en toda Corea del Sur han recurrido a eliminar sus fotos de las redes sociales o desactivar sus cuentas por completo, temiendo ser los próximos objetivos de la explotación de deepfake porn0. Esta autocensura destaca el impacto social más amplio, forzando a individuos inocentes a alterar su comportamiento debido a las acciones de los perpetradores. Ah-eun, una estudiante universitaria entrevistada por la BBC, expresó cómo esta crisis ha generado desconfianza hacia sus conocidos masculinos, diciendo: “Ahora no puedo estar segura de que la gente no cometa estos crímenes a mis espaldas, sin que yo lo sepa”.

El costo psicológico para las víctimas es severo. El Centro de Defensa para Víctimas de Abuso Sexual en Línea (ACOSAV) en Corea del Sur ha reportado un fuerte aumento en víctimas menores de edad de deepfake porn0. En 2023, asesoraron a 86 víctimas adolescentes, pero este número saltó a 238 en solo los primeros ocho meses de 2024. Solo en la última semana, 64 víctimas adolescentes adicionales se presentaron, subrayando la naturaleza escalante de esta crisis. Park Seonghye, una de las líderes del centro, describió la situación a la BBC como “una emergencia a gran escala para nosotros, como una situación de guerra”.

Aunque el gobierno surcoreano ha prometido imponer castigos más estrictos para los involucrados en la creación y compartición de deepfake porn0, los expertos argumentan que la causa raíz radica en el sexismo estructural. Las organizaciones de derechos de las mujeres señalan que esto es solo la última forma de misoginia en línea, siguiendo oleadas de abuso verbal y la epidemia de cámaras espía. Enfatizan que la solución a la crisis de deepfake porn0 radica en promover la igualdad de género y educar a los hombres jóvenes sobre la naturaleza dañina de estas acciones. Lee Myung-hwa, que trata a jóvenes agresores sexuales en el Centro Cultural Juvenil Aha Seoul, advirtió a la BBC que “para los adolescentes, los deepfakes se han convertido en parte de su cultura, se ven como un juego o una broma”.

Mientras lidiamos con las implicaciones de esta crisis de deepfake porn0, está claro que la tecnología avanza más rápido que nuestra capacidad para regularla y controlarla. Esta situación en Corea del Sur sirve como una llamada de atención para la comunidad global para abordar los desafíos éticos planteados por la IA y la tecnología deepfake. Para aquellos interesados en comprender el poder y los peligros potenciales de la IA, recomiendo consultar mi libro“¡ESTO NO ES JUEGO! 10 Consejos Para Crear Prompts Increíbles y Hackear tu Productividad.” Esta guía ofrece información valiosa para dominar la IA en tu vida diaria, enseñándote cómo una simple palabra puede desencadenar una revolución digital en manos de la IA. Además, si quieres aprender a comunicarte eficazmente con plataformas de IA generativa y aumentar tu productividad, no te pierdas mis próximos talleres de IA. En particular, te invito a mi taller sobre creación de contenido el 18 y 19 de septiembre. No dejes que alguien más ocupe tu trabajo – toda la información está disponible en mi sitio web.

Consejos prácticos para protegerse ante un deepfake:

1. Controla tu presencia digital: Limita la cantidad de fotos y videos que compartes públicamente en redes sociales. Considera usar configuraciones de privacidad estrictas en tus perfiles.
2. Verifica la autenticidad: Si encuentras contenido sospechoso de ti mismo, busca inconsistencias en detalles como sombras, reflejos o movimientos poco naturales que puedan indicar que es un deepfake.
3. Reporta y busca ayuda: Si eres víctima de un deepfake, reporta inmediatamente el contenido a la plataforma donde se compartió y busca asesoramiento legal o apoyo psicológico si es necesario.