Cae una organización criminal dedicada a distribuir pornografía infantil generada con IA: dos detenidos en España

La Policía Nacional, en una operación de EUROPOL contra la explotación sexual infantil, ha colaborado en la detención de 25 miembros de una organización criminal dedicada a distribuir imágenes de abusos a menores generadas por inteligencia artificial (IA).

Fuentes policiales consultadas por este medio han detallado que dos de las detenciones han tenido lugar en España, en las ciudades de Móstoles (Madrid) e Igualada (Barcelona). Los arrestados son dos hombres de nacionalidad española, de 30 y 39 años.

Se han llevado a cabo 33 entradas y registros en domicilios, cuatro de ellos en España (en las provincias de Madrid, Barcelona, Jaén y Málaga) y 173 dispositivos electrónicos han sido incautados, ocho de ellos en nuestro país con 16.800 archivos.

Pagos por contenido

La investigación comenzó a partir de la detención en el año 2024 de un ciudadano danés, quien dirigía una plataforma online a través de la que se distribuía material generado por IA que producía previamente este material ilegal. Usuarios de todo el mundo, después de realizar un pago simbólico en línea, podían obtener una contraseña para acceder al material de esta plataforma donde podían visualizar abusos a menores.

Durante el curso de la investigación, Europol y el Grupo de Trabajo Conjunto de Acción contra la Ciberdelincuencia (J-CAT) proporcionaron coordinación operativa a las autoridades implicadas en el caso. Asimismo el Centro Europeo de Ciberdelincuencia de Europol facilitó el intercambio de información y proporcionó inteligencia y análisis operativos a los investigadores de los diferentes países involucrados en la operación.

Esta operación se trataría de uno de los primeros casos en los que se investiga material de abuso sexual infantil (CSAM) generado por IA, lo que la ha convertido en excepcionalmente desafiante para los investigadores.

Un delito grave

La explotación sexual infantil online sigue siendo una de las mayores amenazas del delito cibernético en la Unión Europea y continúa siendo una de las principales prioridades de las autoridades que se enfrentan a un volumen cada vez mayor de este tipo de contenido ilegal.

El material sexual infantil autogenerado constituye una parte importante del CSAM que se detecta. Los delincuentes se sirven de modelos de IA capaces de generar o alterar imágenes para producir este contenido así como extorsión sexual. Estos modelos están ampliamente disponibles y se han desarrollado rápidamente con resultados que actualmente se parecen cada vez más a las imágenes reales, lo que hace que sea más difícil identificarlos como material generado por inteligencia artificial.

Esto plantea importantes desafíos a las autoridades a la hora de identificar a las verdaderas víctimas. Incluso en los casos en los que el contenido es íntegramente generado por IA y no se representa a ninguna víctima real, como en esta operación, sigue contribuyendo a la cosificación y sexualización de los niños. La operación aún continúa abierta por lo que no se descartan nuevas detenciones.