La semana pasada circuló en la plataforma X la imagen de un niño palestino generada con inteligencia artificial AI. Esta tecnología de vanguardia se ha convertido en un arma de doble filo, para manipular la opinión pública bajo un discurso que pretende ser emocional pero que confunde cada vez más y genera caos en las redes sociales.
Crédito: ISD (Institute for Strategic Dialogue)
Si ves este video, descrubrirás de la mano del experto Jeyvan Sánchez, cómo la inteligencia artificial (IA) se conecta con nuestro cerebro, y se utiliza para generar imágenes y audio:
La información en línea en torno a la guerra, en especial la generada en el conflicto que vive Israel y Hamás, jamás había sido tan confusa e irresponsable, en ese afán por explotar de manera deplorable el caos que se vive.
Cada día, las plataformas de redes sociales, en especial X y Facebook, se inundan de imágenes y videos violentos de niños ensangrentados y calcinados, acompañadas de afirmaciones falsas y no verificadas.
Esto sumado a un storytelling que pretende ser empático, pero que es diseñado específicamente con herramientas tecnológicas como la inteligencia artificial, para aumentar la participación de seguidores, y contribuir a un caos que parece no tener fin.
Capitalizar la tragedia y el sufrimiento de civiles tanto en Israel como en Gaza, para fomentar más violencia y difundir imágenes creadas con IA, son acciones más condenables y dañinas que la propia guerra.
En el caos de la guerra, siempre reina la desinformación y la manipulación. Pero ahora, las nuevas tecnología se suman a la creación de imágenes devastadoras, a través de IA.
¿Foto real o manipulada con inteligencia artificial?
Cada día, cientos de imágenes de dudosa procedencia, rondan las redes sociales alrededor del mundo. Por supuesto que la manipulación de imágenes ha existido siempre, solo que ahora son casi imposibles de detectar y la tecnología está al alcance de cualquiera que quiera alterarlas para su propio beneficio.
Jeyvan Sánchez, experto en IA y miembro de la cooperación mundial en materia de Inteligencia Artificial (IA) de la ONU, asegura que al día de hoy, no existe una manera infalible de determinar si las imágenes son creadas con IA o no, ya que las técnicas de generación de imágenes han avanzado tanto que pueden ser muy realistas.
Sin embargo, este experto nos comenta que hay algunos indicios que nos ayudan a entender si la imagen ha sido generada con IA:
1. Aparecen artefactos inusuales
Al observar la imagen a detalle, hay que tener en cuenta los artefactos que son inusuales. Todas las imágenes que se generan con IA, se hacen por medio de una base de datos que ha aprendido la plataforma, por eso vemos incongruencias, como objetos que no corresponden al entorno natural de la foto, como la mano de seis dedos del niño palestino; e incoherencias en las sombras de los objetos o personas, que no corresponden a la luz que viene desde un ángulo.
2. Detección de metadatos
Existe una técnica más profunda que es la detección de metadatos. Cuando abres una fotografía en un programa como Photoshop, encuentras los metadatos de la foto. Por lo general, contienen nombre de la cámara con la cual fue creada, o el software con la que fue manipulada. Una fotografía creada con IA no contiene metadatos, ya que no contienen datos como el foco utilizado para tomar la fotografía, la refraxión o el tipo de formato, etc.
3. Generación de pixeles
Otra forma para detectar imágenes generadas por IA es la generación de pixeles. Cuando acercas demasiado a una fotografía en el monitor, verás una serie de pixeles. Por lo general, las fotografías son guardadas en formatos como JPG, TIPP, PNG, GIF, etc. Entonces, si abres una fotografía en formato TIFF por ejemplo, y ves la compresión de colores, entonces se trata de una fotografía generada por un humano. Pero cuando la fotografía no tiene consistencia en los pixeles y metadatos que tiene cada uno de los cuadros, quiere decir que fue hecha con IA.
Vale a pena recordar que todas estas tecnologías siguen evolucionando y es un hecho que existen programas del paquete de Adobe, que nos ayudan a entender si a imagen ha sido creada o no con este tipo de tecnología artificial.
Por otro lado, hasta el día de hoy, softwares como oto.ai o indra.ai podrían decirnos si la imagen fue manipulada o generada con AI.
Este tipo de herramientas de automatización funcionan a través de la acumulación de una gran cantidad de datos, en este caso de imágenes, que están entrenadas para identificar cuáles imágenes son verdaderas y cuáles son creadas mediante IA. Así lo explica Hany Farid, profesor de la Berkeley School of Information de la Universidad de California.
Otra forma de detectar si una imagen es creada con IA es que este tipo de tecnología no permite crear formas muy rectas o estructuradas.
Sin embargo, hay que recordar que la IA se basa en los datos que cada usuario ingresa en el software, y de otro elemento clave: el tipo de aprendizaje (deep learning), ya que se puede “educar” a la IA para que cree una imagen fiel a la realidad. Asimismo, la IA se puede combinar con otros software y aplicaciones que pueden llegar a perfeccionar una imagen falsa y convertirla en una real e indetectable por otra herramienta.
Cómo detectar si las fotos publicadas en redes sociales como X fueron elaboradas con IA
Jeyvan asegura que lo más sencillo para detectar si estas fotos publicadas en redes sociales fueron generadas por IA, es poniendo atención al detalle de los bordes de cada imagen.
“Los bordes de una fotografía generada por IA vienen un poco borrosos. Eso se debe a que muchas veces e promt -mensaje o estímulo que indica lo que se debe hacer o una acción que se debe tomar- que se introdujo al software o la instrucción que se le dio a la plataforma, no hizo que se generara a una resolución de 300 DIP (procesamiento y análisis de imágenes digitales utilizando algoritmos y técnicas de software), o una resolución de imagen o video de 4K.”
Pero lo más evidente, sin duda, son los seis dedos de la mano del niño palestino. “Además, la franja verde del suéter se ve borrosa, eso no debería de estar en la foto. Así que estoy seguro de que si abres esta foto en un programa como Photoshop, confirmarías que se trata de un archivo que no tiene metadatos, por lo cual fue generada con IA.” Asegura Jeyvan.
Imágenes troles: “confunde y reinarás”
Para quienes no saben, los “troles” son usuarios de internet que se dedican a provocar y molestar mediante comentarios ofensivos, controvertidos e inapropiados.
Su objetivo es generar conflicto, difundir información falsa para confundir a la opinión púbica, desencadenar respuestas emocionales en las personas y perturbar discusiones en línea.
Casi siempre actúan de manera anónima o bajo seudónimos para ocultar su identidad. Asimimso, pueden utilizar múltiples cuentas o perfiles falos para dar impresión de un mayor apoyo o oposición a un tema.
Puede que e “troleo” en línea no sea novedoso para Hamás, pero en esta ocasión se ha vuelto más sofisticado, señala el investigador Ruslan Trad, del laboratorio de análisis digital del Atlantic Council (DFRLab)
Lo inquietante es que debido al gran número de víctimas tanto israelíes como palestinas, ahora estos relatos son “sistemáticamente transmitidos por troles iraníes y rusos, que son amplificados por redes sociales estatales”, asegura David Colon, profesor de Sciences Po.
Plataforma X: un arma de guerra que no modera contenidos violentos
Antes, los medios de comunicación tradicionales teníamos la obligación y responsabilidad ética y moral de autorregular contenidos ilegales y violentos. De lo contrario, existían organismos que penalizaban a noticieros y programas de televisión que se “pasaban de la raya.”
Ahora, de acuerdo con el Instituto para el Diálogo Estratégico (ISD), cientos de publicaciones glorifican y respaldan contenidos terroristas, que no son moderados de ninguna manera.
El informe de la ISD señala que se han identificado 128 publicaciones en X, relacionadas principalmente con el grupo miliciano Izz ad-Din al-Qassem Brigades, que lideró un ataque en el sur de Israel el 7 de octubre. Estas publicaciones han alcanzado más de 16 millones de visitas en total en la plataforma.
A pesar de que la mayoría de estas publicaciones violan las políticas de X en cuanto a contenido violento, lleno de odio y antisemitismo, ninguna de ellas ha sido eliminada ni etiquetada por la plataforma.
Hablamos de contenido difícil de diferenciar si es real o generado por IA, que muestra en escenas gráficas de violencia, incluyendo profanación de cadáveres, enfrentamientos armados con posibles víctimas y cada vez más niños ensangrentados.
¿Hasta cuándo tendremos que aguantar que plataformas como X no cumplan con sus propios Términos y Condiciones, ni con las regulaciones de la Unión Europea? El contenido ilegal generado y no generado por IA, repleto de sebicia para ganar adeptos debe ser eliminado de todas las plataformas de redes sociales. Es una responsabilidad de la opinión pública dejar de ver y de seguir este tipo de publicaciones.
