Google lanza SynthID para detectar imágenes, videos y audios creados con IA

Google abrió SynthID al público, una herramienta que analiza imágenes, videos y audios para detectar marcas asociadas con contenido generado mediante inteligencia artificial.

Google puso a disposición del público una herramienta web basada en SynthID, tecnología que permite comprobar si una imagen, video o archivo de audio contiene señales asociadas con determinados sistemas de inteligencia artificial.

Cómo funciona SynthID

Para utilizar la herramienta, el usuario debe cargar un archivo multimedia compatible. El sistema analiza el contenido en busca de marcas de agua digitales asociadas con SynthID, que pueden estar incorporadas en materiales generados mediante inteligencia artificial.

A diferencia de los sistemas que intentan determinar si un contenido “parece” artificial, SynthID busca señales específicas relacionadas con modelos y productos compatibles con esta tecnología.

Google presentó SynthID en 2023 como un sistema para incorporar marcas de agua digitales en contenido generado con inteligencia artificial. Estas marcas no necesariamente son visibles para las personas, pero pueden ser identificadas posteriormente mediante herramientas diseñadas para detectarlas.

Qué archivos puede analizar

La herramienta admite diferentes formatos multimedia. Para imágenes acepta JPG, JPEG, PNG, BMP, WEBP, AVIF, HEIC, HEIF, TIFF, TIF y GIF.

En el caso de los videos, los formatos compatibles incluyen MP4, MOV y WEBM.

Para archivos de audio, SynthID permite analizar formatos como WAV, MP3, OGG, FLAC, AAC y M4A.

Esta variedad permite utilizar el sistema con diferentes tipos de contenido que circulan en internet y redes sociales.

Qué modelos utilizan SynthID

Google emplea SynthID en modelos y productos relacionados con la generación de contenido, entre ellos Nano Banana, Veo y Lyria, además de herramientas como Gemini, Flow, ProducerAI y Vids.

Esto significa que la herramienta está orientada principalmente a identificar señales generadas por sistemas que incorporan esta tecnología.

Google también integró la verificación de SynthID en Gemini y Google Chrome. De acuerdo con la compañía, actualmente se realizan alrededor de un millón de solicitudes diarias para comprobar contenido mediante este sistema.

SynthID también tiene presencia fuera de Google

La tecnología no está limitada a las plataformas de Google. OpenAI, Nvidia y Kakao también son compatibles con SynthID, mientras que OpenAI cuenta además con una herramienta propia para comprobar contenido generado por sus modelos.

La utilización de sistemas de identificación de contenido ha aumentado ante la expansión de imágenes, videos y audios creados mediante inteligencia artificial.

Este tipo de herramientas puede ayudar a identificar material sintético que se presenta como contenido auténtico, aunque su alcance depende de la tecnología utilizada para generar el archivo.

La herramienta no puede detectar toda la IA

SynthID no funciona como un detector universal de inteligencia artificial. Su capacidad para identificar un archivo depende de que el contenido haya sido creado mediante un sistema compatible con las marcas de agua correspondientes.

Por ello, que SynthID no encuentre una marca no significa necesariamente que una fotografía, video o audio sea auténtico. El archivo podría haber sido creado o modificado mediante otro modelo que no utilice esta tecnología.

Además de Google, Microsoft y Meta han desarrollado estándares propios para marcar y verificar contenido generado mediante inteligencia artificial.

Ante esta situación, las herramientas de identificación pueden servir como una señal sobre el origen de un archivo, pero no sustituyen la revisión de otras fuentes cuando se necesita comprobar la autenticidad de un contenido.

Noticias del tema