El lado más oscuro de la inteligencia artificial: pornografía personalizada y sin límites

“La inteligencia artificial se está convirtiendo en un arma al servicio de la violencia digital contra las mujeres”. De esta forma advierte la coordinadora del proyecto ‘Por No Hablar’, cuyo objetivo es reflexionar sobre la influencia de la pornografía en las relaciones sexuales, de los peligros de la IA. 

Idaira Alemán asegura que la fácil accesibilidad a la inteligencia artificial “ha facilitado que cualquier persona, sin apenas conocimientos teóricos, pueda crear contenido pornográfico falso a través de imágenes de mujeres reales sin su consentimiento”. 

De hecho, según un informe de la empresa de ciberseguridad Deeptrace, el 96% del contenido deepfake - imágenes, audios o vídeos falsos creados con IA y que permite superponer rostros, cambiar voces, imitar expresiones o movimientos de personas de una manera realista - está relacionado con pornografía no consentida.

“La pornografía creada por IA elimina cualquier límite previo”, subraya Alemán y añade que, ahora, “basta con contar con una foto o un vídeo para insertar a una mujer en escenas que jamás ha consentido”. Los montajes sexuales de este tipo, además, han proliferado en redes sociales y, según el estudio State of deepfakes 2023, en ese año hubo un aumento del 464% y las mujeres son víctimas del 99% de deepfakes pornográficos. 

Demanda de pornografía personalizada

Otro aspecto que explica el auge de las deepfakes es la demanda de pornografía personalizada, una actuación que tiene al alza en Internet: “Con solo el rostro de una persona se fabrica un vídeo a la medida de las fantasías del demandante. Los límites entre lo real y lo ficticio desaparecen y la mujer se convierte en una mercancía moldeable a cualquier perversión imaginada”.

De manera histórica la pornografía se ha consolidado como “uno de los grandes pilares de la industria sexual”, algo que está entrelazado con “la prostitución y la trata de mujeres y niñas con fines de explotación sexual”. En palabras de Idaria Alemán, todos ellos son “negocios que se alimentan entre sí, que cosifican los cuerpos y que se lucran con la desigualdad”.

Si antes de la llegada de la inteligencia artificial, la pornografía “ya había cruzado casi todos los límites”, ahora el mensaje lanzado es aún “más potente y peligroso”: “Ya no son personas desconocidas en una pantalla, ahora puede ser tu compañera de clase, tu hermana o cualquier mujer conocida la que aparece en una escena en la que hace de manera exacta lo que el demandante pide”. 

A través de la pornografía personalizada, “se controla” cada detalle y, con esto, se construye un “imaginario sexual basado en el poder, la dominación y la humillación”, sentencia la coordinadora de Por- No Hablar. 

La regla ‘Rule 34’

“Si algo existe o si se puede imaginar, alguien ya lo ha convertido en porno”. Es la regla del ‘Rule 34’. Es, también, la manera en la que funciona internet. “Basta con poner en el buscador el nombre de cualquier personaje infantil como, por ejemplo, las princesas Disney, Sonic, Bluey o Pikachu para encontrar versiones sexualizadas”, afirma Alemán. La experta recuerda que eso se traduce en un acceso por parte de menores a este contenido, aunque no sea de forma intencionada. 

“Vamos hacia una digitalización total del deseo donde todo se puede fabricar: cuerpos hipersexualizados, escenas personalizadas o vídeos protagonizados por cualquier persona”, señala Idaira Alemán y a ello se suma que todo “es sin consentimiento y sin ningún tipo de límite”.

A su juicio, la inteligencia artificial, lejos de convertir las redes en un lugar seguro, las convierte “en espacios peligrosos, sobre todo para los adolescentes y menores”, pues de acuerdo con las cifras de la organización WeProtect Global Alliance, entre 2020 y 2022, los deepfakes con temática sexual infantil aumentaron un 360%.

Sin embargo, la experta reconoce que “otro futuro es posible” y para conseguirlo, la inteligencia artificial debe usarse “para educar, proteger y construir otros imaginarios sobre el cuerpo, el deseo y el placer”. En base a su opinión, la clave está en crear espacios donde la tecnología se sitúe al “servicio del bienestar común y no del beneficio económico o la dominación”. 

“Llegamos tarde, pero aún estamos a tiempo”

Idaira Alemán señala que, “pese a que llegamos tarde, aún estamos a tiempo”. Es, en palabras de la experta, “fundamental” una reflexión crítica sobre “para qué usamos las redes sociales, qué imaginarios estamos alimentando y qué consecuencias tienen sobre las relaciones, especialmente, cuando se habla de cuerpos, deseos y consentimiento”.

Por otra parte, es “necesario” hablar de pornografía y de los peligros que conlleva. Desde su punto de vista, “si no se interviene de forma urgente, todo caminará hacia un escenario todavía más peligroso. El contenido pornográfico será cada vez más personalizado y accesible. Se podrá fabricar cualquier escena”.

Mientras exista una falta de intervención, “fallaremos a la juventud porque la dejamos sola frente a esa curiosidad natural que se siente sobre el sexo y lo único que encuentran para satisfacerla es el porno”. 

Regulación e instituciones

Con respecto a las instituciones, estas, en palabras de Idaira Alemán, “no están lo suficientemente informadas ni concienciadas. Van por detrás de la realidad y reaccionan tarde y mal”. Los problemas que genera la inteligencia artificial, en términos de violencia digital, “son enormes y atacan especialmente a mujeres, niñas y adolescentes, pero las respuestas no están a la altura”. 

Por su parte, las plataformas digitales, “no se consolidan como espacios neutros, todo funciona mediante algoritmos para generar clicks y, aunque el contenido sea violento, si este engancha a la audiencia, se muestra”. Las redes sociales se posicionan como “cómplices” porque, además de permitir la difusión de contenido pornográfico, “lo promueven”.

La solución para la experta pasa por implantar mecanismos de control reales, transparentes y eficaces: “No todo vale por un click, la ética no puede estar en manos del mercado y la falta de leyes claras, coordinadas y efectivas dejan a millones de personas expuestas”. 

En lo que respecta a la Unión Europea, la ley de inteligencia artificial que la organización promueve (Ley IA) es “un primer paso, pero insuficiente si no va acompañada de un compromiso educativo y político mucho más profundo”. Pese a que el objetivo de la legislación, aprobada en 2024 y cuya entrada en vigor se espera para este año 2025, es regular el desarrollo, comercialización y uso de sistemas de inteligencia artificial, “una buena ley debe proteger a las personas y no a las plataformas”. 

Aunque a partir de su entrada en vigor la Ley IA de la UE se posicionaría como la primera gran regulación de IA en el mundo, “una legislación sin valores no basta, se necesita protección de verdad. Con límites”. Sin embargo, lo importante, recalca Idaira Alemán, es “rompe con la idea de que el sexo es un producto de consumo más”.