Desde la aparición de plataformas como Dall-E o ChatGPT de OpenAI, la popularidad de la inteligencia artificial ha aumentado significativamente, pero también ha dado lugar a controversias, especialmente en lo que se refiere a imágenes generadas por herramientas de inteligencia artificial.
Al respecto, la difusión masiva de una imagen falsa del Papa Francisco generada con la herramienta de inteligencia artificial Midjourney, que también se utilizó para crear imágenes del falso arresto de Donald Trump, ha causado preocupación sobre el potencial de la IA para la desinformación.
¿Cómo identificar imágenes creadas por IA?
Las imágenes producidas por inteligencia artificial pueden resultar difíciles de detectar ya que son generadas por algoritmos que imitan la creatividad y la imaginación humanas, pero existen indicadores que pueden ayudar a identificar su origen.
Eliot Higgins, uno de los cofundadores de Bellingcat, que realizó un hilo en Twitter en el que se muestra al expresidente Trump rodeado por policías, fue entrevistado por Wired, un medio especializado en tecnología.
Durante la entrevista, Higgins expresó su preocupación acerca de cómo los espectadores pueden diferenciar entre imágenes generadas por inteligencia artificial que son falsas, como las que se muestran en su publicación, y fotografías auténticas que podrían mostrar el posible arresto del expresidente.
Errores en los detalles, un signo común en imágenes generadas por IA
Desde la aparición de plataformas como Dall-E o ChatGPT de OpenAI, la popularidad de la inteligencia artificial ha aumentado significativamente, pero también ha dado lugar a controversias, especialmente en lo que se refiere a imágenes generadas por herramientas de inteligencia artificial.
Al respecto, la difusión masiva de una imagen falsa del Papa Francisco generada con la herramienta de inteligencia artificial Midjourney, que también se utilizó para crear imágenes del falso arresto de Donald Trump, ha causado preocupación sobre el potencial de la IA para la desinformación.
Imágenes del Papa Francisco creadas con Inteligencia Artificial. Foto: Instagram @antifallen
Leer también: iOS 16.4 para iPhone es oficial, conoce todas las novedades
¿Cómo identificar imágenes creadas por IA?
Las imágenes producidas por inteligencia artificial pueden resultar difíciles de detectar ya que son generadas por algoritmos que imitan la creatividad y la imaginación humanas, pero existen indicadores que pueden ayudar a identificar su origen.
Eliot Higgins, uno de los cofundadores de Bellingcat, que realizó un hilo en Twitter en el que se muestra al expresidente Trump rodeado por policías, fue entrevistado por Wired, un medio especializado en tecnología.
Durante la entrevista, Higgins expresó su preocupación acerca de cómo los espectadores pueden diferenciar entre imágenes generadas por inteligencia artificial que son falsas, como las que se muestran en su publicación, y fotografías auténticas que podrían mostrar el posible arresto del expresidente.
Foto: Especial
Errores en los detalles, un signo común en imágenes generadas por IA
“Después de haber creado muchas imágenes para el hilo, es evidente que a menudo se enfoca en el primer objeto descrito, en este caso, los diversos miembros de la familia Trump, y todo lo que lo rodea a menudo tiene más fallas”. Para detectar errores en una imagen debes mirar fuera del punto focal de la foto.
Para Higgins, aunque las versiones más recientes de las herramientas de imagen de IA, como Midjourney y Stable Diffusion, están logrando un progreso considerable, los errores en los detalles más pequeños siguen siendo un signo común de imágenes falsas.
Mirando las imágenes de IA de Trump del hilo de Twitter, la cara y las manos parecen muy convincentes, pero las proporciones del cuerpo a menudo se ven distorsionadas o fusionadas con las de otros objetos en la imagen, como un oficial de policía cercano.
Higgins señala que otros elementos que pueden dar una pista de que se trata de una imagen generada por IA, es la escritura extraña en las paredes o ropa. El texto desordenado es una forma de distinguir las imágenes falsas de las fotos reales, como en el caso de imágenes falsas de oficiales que arrestan a Trump donde las palabras no tienen sentido después de una inspección más cercana.
Otra forma de detectar si una imagen es generada por IA, es observando si las expresiones faciales están exageradas. Higgins señaló que ha notado que el algoritmo tiende a representar las expresiones de manera exagerada, con arrugas muy pronunciadas en la piel.
Asimismo, se debe tener en cuenta que las personas con una presencia más visible en Internet, como líderes mundiales, celebridades y personas influyentes en las redes sociales, pueden parecer más convincentes en las fotos falsas que las personas con una presencia menos visible.
Higgins explica que esto se debe a que la IA ha aprendido más de las imágenes de personas famosas en comparación con personas menos conocidas.