YouTube ha tomado medidas para evitar la propagación de deepfakes hechas con IA con el etiquetado de contenido
El uso de la inteligencia artificial (IA) para generar contenido sigue en aumento y esto, a su vez, ha generado la mayor propagación de deepfakes y desinformación.
Ante este contexto, YouTube, dio a conocer la nueva herramienta que estará disponible en Creator Studio y la cual le pedirá a los creadores de contenido revelar cuando un video esté creado con inteligencia artificial.
"La IA generativa está transformando la forma en que los creadores se expresan, desde la creación de guiones gráficos hasta la experimentación con herramientas que mejoran el proceso creativo. Pero los espectadores cada vez quieren más transparencia sobre si el contenido que ven está alterado o es sintético", señaló YouTube en una entrada de su blog.
De acuerdo con la plataforma, los videos que estén creados con IA o que sea contenido realista al que se le alteró total o parcialmente con herramientas de edición, tendrán una etiqueta que dice "Contenido alterado", además que se añadirá una pequeña advertencia para los espectadores.
¿Qué tipo de videos deberán etiquetarse en YouTube?
YouTube señala en su entrada que esta nueva etiqueta está destinada a fortalecer la transparencia entre los creadores de contenido y su audiencia.
El tipo de contenido que necesita la etiqueta de contenido creado con IA es:
Usar la imagen de una persona realista: alterar digitalmente el contenido para reemplazar el rostro de un individuo por el de otro o generar sintéticamente la voz de una persona para narrar un video.
Alterar imágenes de eventos o lugares reales: como hacer que parezca como si un edificio real se incendiara o alterar un paisaje urbano real para que parezca diferente de la realidad.
Generar escenas realistas: mostrar una representación realista de eventos ficticios importantes, como un tornado que avanza hacia una ciudad real.
Por otro lado, YouTube también sabe que los creadores de contenido pueden utilizar la IA u otras herramientas en diferentes niveles por lo que, no exigen a "los creadores que revelen si se utilizó IA generativa para la productividad, como generar guiones, ideas de contenido o subtítulos automáticos. Tampoco exigiremos a los creadores que revelen cuando los medios sintéticos no sean realistas y/o los cambios sean intrascendentes".
