Cada vez que los veo, están pegados al celular. Suponía que andaban viendo Tik Tok, preguntando a ChatGPT por alguna tarea o chateando por WhatsApp, por no decir lo obvio: tomándose selfies…
Pero después de conocer esta encuesta que les compartiré a continuación, mi percepción cambió por completo: casi el 20 por ciento de los 1.300 adolescentes de entre 13 y 17 años encuestados, se la pasa generando contenido sexual explícito utilizando IA.
¿Los toma por sorpresa? A mi no. Era de esperarse que estos sistemas también iban a ser utilizados para generar materiales visuales de naturaleza sexual; y como no, si ya sabemos que la IA aprende patrones, analiza cientos de miles de datos, y actúa de manera semiautónoma (hasta ahora, porque yo si creo cada vez más que “The Matrix” era más una profecía que una película de ciencia ficción), para alcanzar un objetivo, ahora sexual, a partir de un buen prompt.
Desde los 12 años comienzan a ver contenidos sexuales
El estudio abarca más comportamientos. De estos jovenes entrevistados por Common Sense Media como parte de una investigación, el 75 por ciento acepta haber visto pornografía en internet; pero lo grave es que la mitad comenzó a encontrarse con este tipo de contenidos mientras navegaba, alrededor de los 12 años. Un poco precoz si se tiene en cuenta que la curiosidad por estos contenidos comenzaba mucho más tarde en décadas pasadas, y a partir de una revista que algún joven con alma de comerciante, rentaba a los chicos en la escuela.
Otra conclusión de la investigación es que la mitad de estos 1.300 adolescentes afirmó haber visto contenido sexual que es generado por herramientas de inteligencia artificial generativa (GenAI). A las imágenes se suman dos nuevas modalidades: los “deepfakes”, que es cuando un video es manipulado con ia para que parezca completamente real; y el uso de apps de «desnudificación» (nudification), que permiten generar imágenes falsas en las que una persona aparece sin ropa.
Apps para desnudar
De hecho una nueva investigación del Tech Transparency Project (TTP) muestra que, para Apple y Google, el problema de las apps para desnudar va mucho más allá. Identificó 55 apps en Google Play Store que pueden eliminar digitalmente la ropa de mujeres y dejarlas completamente o parcialmente desnudas, o vestidas con bikini u otra ropa mínima. Hablamos de apps como Undress AI, AI Clothes Remover, DeepNude AI AI Photo Editor – Clothes Remover, Nudify AI, AI Face Swap, DeepSwap y FaceMagic; esta última por por sus funciones de intercambio de rostros, no como una app exclusivamente de «nudify».
Y eso no es todo, también hay páginas como pornx-ai, que te deja crear tu propia IA porno, y promete que tus fantasías cobren vida, desatando tu creatividad con una herramienta que “desata tu imaginación sin límites”. Hay otras, como Dream Companion , Promptchan AI, Candy AI, Seduced AI, Pornworks IA, y la lista sigue…
Hay que tener en cuenta que desde que la IA generativa llegó al público masivo en 2022 con el lanzamiento de ChatGPT, esta población ha estado vulnerable a esta exposición sexual; pero lo grave es que el acceso a este tipo de material sí ha cambiado significativamente en los últimos tres años. Les voy a contar por qué: porque la IA ahora es cómplice.
«La chica de al lado» ahora en versión IA
Antes, los adolescentes se conformaban con encontrar imágenes sexuales generadas por IA de famosos, pero ya van más allá y utilizan apps como la de desnudificación para quitarle la ropa a sus compañeros o compañeras de la escuela; a la famosa “girl next door” o “chica de al lado”.
¿Recuerdan aquel famoso arquetipo cultural que describía a una chica que resultaba atractiva para todos en la escuela por ser accesible, cercana y auténtica, mucho más que una modelo estática en un poster? Bueno, pues ya no es raro que la guapa de la escuela esté desnuda en todos los celulares de los chicos y chicas, convirtiéndose en una fuente de inspiración…real.
Bueno y si no son creadores de estos contenidos, todos los entrevistados aseguran conocer a alguien que ya lo ha hecho o que los han visto; y peor aún, aceptan que son de una persona que conocen, cercana o lejana, pero la conocen.
Pienso que estos nuevos espacios de contenido sexual en donde habitan los adolescentes son muy específicos y muy accesibles, y eso les permite explorar sin filtros y sin regulación; porque estas apps están disponibles a un clic de distancia. Hagan el ejercicio y verán, en el mercado hay varias, capaces de crear o modificar la foto o el video que a uno se le antoje.
Puede que algunas de estas tengan normas sobre el contenido permitido, pero hay otras que logran evadir todos los controles, porque no publicitan todas sus funciones. Nolo digo yo, lo dice Riana Pfefferkorn, investigadora en políticas públicas del Instituto de Inteligencia Artificial Centrada en el Ser Humano de la Universidad de Stanford.
Así que aunque algunos se esfuercen por eliminar este tipo de contenidos, no es suficiente, porque el problema evoluciona y se convierte en un “efecto bola de nieve”, como todo lo que tiene que ver con la inteligencia artificial, ¿no creen?
¿Adolescentes acosadores?
A mi lo que realmente me preocupa es cómo está afectando esto a los adolescentes. Porque si se trata de un chico que se está dedicando a desnudar a todas sus compañeras de clase, pues prácticamente es un acosador que está cometiendo un delito por difundir imágenes íntimas. Pero aquí es donde viene el tema de “sin consentimiento”, porque realmente lo que hace es manipular una imagen o un video; sin embargo, causa el mismo daño que si fuese una imagen real y luego es divulgada. Yo si creo que esto debe tener responsabilidades civiles, al menos multas, órdenes de retirar el contenido e incluso una indemnización por daños y perjuicios; ¿o sino dónde vamos a parar?
Por otro lado, según el estudio, casi el 70 % manifestó temor a convertirse en víctima de contenido sexual generado por IA sin su consentimiento. Y como no, si a mí también me daría miedo que una foto o video mío andara por ahí, pasando de celular en celular de todas las personas que me conocen. Por eso yo si creo que el mejor consejo que les puedo dar es tener sus perfiles privados, a no ser que sea un medio, una marca o un emprendimiento que necesita de las redes para ser divulgado.
Los jovenes no pueden “seguir ventilando” todo lo que se les pasa por la cabeza, tienen que ser conscientes de la importancia de cuidar su privacidad, porque cualquiera puede ser víctima de esta nueva modalidad; de hecho muchos lo usan para humillar, vengarse o causar daño a una ex pareja. Eso es un caso de bullying en su máxima expresión y puede terminar en tragedia. Casos se han visto de chicas que no soportan la presión de que una foto comprometedora se vuelva el tema del día en la clase de física. No sean ingenuos, muchas personas pueden tomar acciones de este tipo para causarles daño.
Y ahí no acaba. Como estos contenidos son tan frecuentes y tan fáciles de crear, pues también están teniendo consecuencias psicológicas en ellos, en lo que se refiere a su percepción del sexo, el consentimiento para tener relaciones, y su imagen corporal. Y como no, si cuando generan estos contenidos lo hacen influenciados por altos estándares de belleza impuestos por la sociedad; así que ahora creen que “así debería verse” no solo su cuerpo, sino el cuerpo de los demás. Para los psicólogos esto es preocupante, porque en la etapa de la adolescencia el cuerpo experimenta cambios rápidos y constantes, y construyen mandatos de cómo debería verse para ser “aceptado”.
Se que muchos padres, abuelos y maestros deben estar pensando: pero por qué no se acercan a nosotros para hablar de este tema, ¡pero ni ellos saben cómo iniciar una conversación sobre contenidos sexuales generados por inteligencia artificial con un adulto!
“En internet y en las redes sociales se ve de todo”
En este caso, Common Sense Media recomienda que se mantengan conversaciones abiertas y de apoyo desde muy temprana edad, comenzando por abordar temas como el consentimiento, la salud y la identidad sexual; para luego dar paso a hablar específicamente sobre la tecnología.
Pueden comenzar dialogando acerca de que “en internet y en las redes sociales se ve de todo”, y que pueden hablar con confianza con ustedes de lo que ven. Luego, reforzarles por ejemplo que cuando alguien toma una foto, comparte un video o utiliza la imagen de otra persona, no significa que ellos puedan modificarla o usarla como quiera. También reforzarles que traten a los demás con respeto y que entiendan que todos teneos derecho a su privacidad y a decidir sobre nuestro propio cuerpo. Tampoco hay que olvidar mencionar este tema de la IA y las imágenes falsas de desnudos, decirles que eso no es una broma, es un tema muy serio porque hacerlas o compartirlas puede hacer mucho daño a la persona porque afecta su reputación, salud mental, y hasta mencionarles que se pueden meter en problemas legales.
Por un lado, pienso que que entre más estemos actualizados sobre estas apps y hacia donde va este dilema de la IA y la sexualidad, vamos a poder orientar mejor a los jóvenes, no en tono de regaño sino de diálogo; pero por el otro, no creo que el problema sea 100 por ciento de la IA. El problema sigue siendo la inteligencia natural, porque la tecnología por sí sola no desnuda compañeras de clase por iniciativa propia, ni humilla exnovias, ni comparte deepfakes en un grupo de WhatsApp, todo por que si. Todo eso todavía lo hace un ser humano…
Así que en vez de seguir cuestionándonos si la IA acabará con la humanidad, yo comenzaría más bien por evitar que la humanidad siga usando la IA para sacar su peor versión. Porque “The Matrix” quizá no empiece cuando las máquinas despierten, sino cuando nosotros decidamos “apagar el cerebro” y dejar que ellas hagan “el trabajo sucio.”
