Plataformas como Midjourney y Dall-E crean imágenes con base en unas instrucciones específicas.
La publicación de imágenes íntimas generadas con IA no consentidas afecta principalmente a mujeres.
El auge de la pornografía con inteligencia artificial (IA) está superando los esfuerzos de Estados Unidos y Europa para regular la tecnología. Existen herramientas que son capaces desnudar digitalmente a cualquier persona y que se están usando especialmente con las mujeres.
El buscador de Google arroja varios resultados de “chicas de inteligencia artificial” en los que aparecen imágenes manipuladas, algunas de ellas de mujeres sin ropa que alimentan la extorsión sexual.
Las falsificaciones de fotos y videos cada vez más realistas basadas en IA –llamadas deepfakes– generalmente se asocian a personalidades conocidas, como el papa Francisco con un abrigo acolchado o Donald Trump bajo arresto, pero los expertos afirman que su uso se está extendiendo para generar imágenes pornográficas no consensuadas que pueden destruir vidas, la reputación y la vida de las personas.
Las mujeres son un objetivo particular de estas herramientas y aplicaciones de IA, las cuales están ampliamente disponibles de forma gratuita y sin necesidad de conocimientos técnicos. Estas permiten a los usuarios retirar digitalmente la ropa de las personas que salen en una foto o insertar sus rostros en videos sexualmente explícitos.
“El aumento de la pornografía generada con IA y de la deepfake porn normaliza el uso de la imagen de una mujer sin su consentimiento”, explica a la AFP Sophie Maddocks, investigadora de la Universidad de Pensilvania que estudia los abusos sexuales basados en imágenes. “¿Qué mensaje enviamos como sociedad sobre el consentimiento cuando se puede desnudar virtualmente a cualquier mujer?”, agregó.
Las mujeres son un objetivo particular de estas herramientas y aplicaciones de IA, las cuales están ampliamente disponibles de forma gratuita y sin necesidad de conocimientos técnicos
En un dramático video, una streamer estadounidense de Twitch conocida como QTCinderella lamentó la “constante explotación y cosificación” de las mujeres cuando se convirtió en víctima del “porno deepfake”. Ella fue acosada por personas que le enviaban copias de las manipulaciones de las imágenes en las que aparecía, según denunció.
El escándalo de QTCinderella estalló en enero durante una transmisión en vivo del también streamer Brandon Ewing (Atrioc en Twitch), quien fue sorprendido mirando un sitio web que contenía imágenes sexuales falsas de varias mujeres, entre ellas la de la streamer.
“No es tan simple como ‘sólo’ ser violada. Es mucho más que eso”, escribió la creadora de contenido en Twitter –ahora X–, añadiendo que la experiencia la había “arruinado”. “Ser vista ‘desnuda’ en contra de tu voluntad no debería ser parte de este trabajo”, manifestó QTCinderella.
Desnudos hiperreales
La proliferación de deepfakes subraya la amenaza de la desinformación abierta aún más por la IA, que puede dañar la reputación y provocar intimidación o acoso.
Si bien celebridades como las cantantes Taylor Swift y Rosalía, y la actriz Emma Watson han sido víctimas de la pornografía falsa, las mujeres que no están en el ojo público también son el objetivo de estos ataques.
Los medios de comunicación estadounidenses y europeos están llenos de testimonios de primera mano de mujeres, desde académicas hasta activistas, que se sorprendieron al descubrir sus rostros en videos pornográficos falsos.
Alrededor del 96 % de los videos deepfake en línea son pornografía no consensuada y en la mayoría de ellos aparecen mujeres, según un estudio de 2019 realizado por la empresa holandesa de IA Sensity.
“El acto de la fantasía sexual, que antes era privado y que tiene lugar dentro de la mente de alguien, se transfiere ahora a la tecnología y a los creadores de contenidos en el mundo real”, dijo a la AFP Roberta Duffield, directora de inteligencia de Blackbird.AI.
Alrededor del 96 % de los videos deepfake en línea son pornografía no consensuada y en la mayoría de ellos aparecen mujeres, según un estudio de 2019 realizado por la empresa holandesa de IA Sensity
Hay aplicaciones gratuitas que pueden crear “chicas hiperreales de IA”, avatares a partir de fotos reales, personalizándolas con indicaciones como “piel oscura”, “cabello corto” u otras características físicas y con connotaciones sexuales.
Rincón oscuro
Los avances tecnológicos han dado lugar a lo que Duffield denomina una “industria artesanal en expansión” en torno al porno potenciado con IA, en la que muchos creadores de deepfakes aceptan solicitudes pagas para generar contenidos con una persona que el cliente elige.
El mes pasado, el FBI emitió una advertencia sobre los “esquemas de sextorsión”, en los que los estafadores capturan fotos y videos de las redes sociales para crear material falso de “connotación sexual” que luego se utilizan para chantajear al usuario afectado. El FBI añadió que entre las víctimas había menores de edad y adultos que no dieron su consentimiento.
La proliferación de herramientas de inteligencia artificial ha superado la regulación. “Esto no es un rincón oscuro de Internet, donde se crean y comparten estas imágenes. Está justo delante de nuestras narices. Y sí, la ley debe ponerse al día”, dijo a la AFP Dan Purcell, director ejecutivo y fundador de la empresa de protección de marcas de inteligencia artificial Ceartas.
En Estados Unidos, cuatro estados, incluidos California y Virginia, prohibieron la distribución de pornografía falsa, pero las víctimas suelen tener pocos recursos legales si los perpetradores viven fuera de estas jurisdicciones. En mayo, un legislador estadounidense presentó la Ley de prevención de falsificaciones profundas de imágenes íntimas, que haría ilegal compartir pornografía falsificada sin consentimiento.
Redes sociales en acción
Espacios en línea populares, como Reddit, también han tratado de regular sus florecientes comunidades de pornografía con IA. “Internet es una jurisdicción sin fronteras, y debe haber una ley internacional unificada para proteger a las personas contra esta forma de explotación”, dijo Purcell.
También existen herramientas como StopNCII.org, que es operada por Revenge Porn Helpline de SWGfL (que enseña de seguridad digital) y que permite denunciar no solo imágenes íntimas y reales publicadas sin consentimiento, sino también las que son generadas con inteligencia artificial.
En EE. UU., cuatro estados prohibieron la distribución de pornografía falsa, pero las víctimas suelen tener pocos recursos legales si los perpetradores viven fuera de estas jurisdicciones
La creación de esta herramienta se hizo con un enfoque preventivo y para ayudar a evitar la difusión de imágenes íntimas no consentidas. Cualquier persona puede abrir un caso, bien sea porque su foto ya está publicada en internet o porque no quiere que por nada del mundo se divulgue. La página le creará un tipo de ID a la imagen o video que se compartirá con las empresas tecnológicas colaboradoras. Con este ID se podrá identificar fácilmente los materiales digitales que fueron publicados sin consentimiento, bajarlos y vetarlos.
Las actuales empresas colaboradoras de StopNCII.org son Facebook, Reddit, TikTok, Instagram, Bumble, OnlyFans, Threads y Pornhub. Por su parte, Facebook e Instagram crearon este año una herramienta que se llama Take it down y que fue construida de la mano del Centro Nacional para Menores Desaparecidos y Explotados (Ncmec). El enfoque de esta es hacia menores de edad o personas ya adultas que ven imágenes íntimas no consentidas de cuando tenían menos de 18 años.
Esta herramienta funciona con la misma tecnología de StopNCII.org al crear un ID de la imagen o video que le ayudará a Meta a identificar copias del material, eliminarlas e impedir que se publiquen de nuevo.
“Además de eliminar las imágenes y videos que se reportan, nosotros enviamos una señal a Ncmec que tiene contacto con las autoridades de todo el mundo, incluidas las colombianas, para escalar el caso y que se investigue. A su vez, ellos actualizan constantemente la base de datos de todos los reportes”, explicó María Cristina Copelo, Head of Safety Policy de América Latina para Meta.
La tecnología de Take it down y StopNCII.org nunca le pedirá a la persona que comparta el video o la imagen que pida ser eliminada de internet.
“Lo que la persona reporta en la plataforma es de carácter privado y seguro. Nunca pediremos que suban la imagen o el video. Por ejemplo, si tú vas a abrir un caso tienes que estar en tu dispositivo y la plataforma lo que hace es extraer la huella digital (ID) de esa imagen o video, y ella solo se queda con esa huella digital. Nunca hay un intercambio de las imágenes. El ID se comparte con las empresas que participamos de este proyecto. Esta es una forma más de prevención del delito de explotación infantil y de la sextorsión”, explica Copelo sobre Take it down, pero que también funciona igual en StopNCII.org.
Algunas de las víctimas
Taylor Swift, Rosalía y Emma Watson han sido algunas de las víctimas de las deepfakes porn, y ahí también se cuentan a Kristin Bell y Scarlett Johansson. Pero las estrellas de la música o del cine no son las únicas que se ven expuestas a este delito. Políticas y activistas como la joven Greta Thunberg también han sido objetivo de personas malintencionadas que usan sus imágenes del rostro en cuerpos de otras mujeres para crear imágenes y videos y divulgarlas en internet.
La inteligencia artificial permite poner el rostro de cualquier persona en el cuerpo de otra que esté desnuda en una foto o video. Incluso en el montaje se puede poner a hablar a la víctima algo que nunca dijo, como ocurrió hace un tiempo con un video deepfake de Barack Obama en el que supuestamente llama “idiota” a Donald Trump. Además del daño a la imagen personal, esta práctica busca extorsionar o silenciar a las mujeres públicas. Esto repercute en ciberacoso y en problemas de salud mental, especialmente para aquellas que no tengan las herramientas económicas y legales para darle frente.
“El uso desmedido de herramientas de manipulación audiovisual a menudo tiene un impacto negativo en las mujeres. Antes los expertos eran los únicos capaces de hacer dichas alteraciones que requerían destrezas, pero en el contexto actual hay herramientas accesibles para los aficionados que generan resultados a escalas mayores y en tiempo récord. Los videos pornográficos generados con IA representan un conjunto de problemas interconectados en relación con la ‘democratización’ de la tecnología”, destaca el Departamento de Seguridad Nacional de EE. UU. en su informe ‘La creciente amenaza de identidades deepfake’.
Amplía tus conocimientos y perfecciona tus habilidades con nuestra información en el blog: www.todoenunonet.blogspot.com