Ayer justamente lo comentábamos en una noticia: Spotify tiene un problema con las canciones generadas por IA, ya que la plataforma de streaming ha descubierto que miles de canciones generadas por inteligencia artificial están inflando sus números con bots. El siguiente caso era de esperar.
Como han destapado en Vice, un estafador anónimo supuestamente ganó miles de dólares vendiendo pistas de Frank Ocean falsas generadas por IA, pistas que se pensó en un primer momento que eran filtradas del artista y que se pusieron a la venta en un mercado de coleccionistas de música en Internet y en Discord.
El estafador, bajo el apodo de mourningassasin, vendió la colección de temas falsos generados por IA por casi 10K dólares en un foro de filtración de música en streaming dedicado al cantante.
Y es que, como explicamos ayer, a medida que la IA generativa se hace más y más popular (sin ir más lejos, Google ayer centró gran parte de sus innovaciones en ella), surge la posibilidad de que algunos traten de ganar dinero rápido a través de medios sin escrúpulos, y principalmente aprovechando el momento antes de que las leyes de derechos de autor se pongan al día.
En el caso que nos ocupa, el propio mourningassasin le dijo a Vice que contrataron a alguien para hacer “alrededor de nueve” canciones de Ocean usando “fragmentos vocales de muy alta calidad” de la voz del cantante. El usuario publicó un clip de una de las pistas falsas en dicho foro de música y afirma haber convencido rápidamente a sus usuarios de su autenticidad.
“Inmediatamente, noté que todos comenzaron a creerlo”, cuenta en Vice. Además, el hecho de que Ocean no haya lanzado un álbum nuevo desde 2016 y de los rumores de una próxima continuación de Blond también jugaron a favor del estafador, ya que existían ganas por creer que las canciones eran reales.
Mourningassasin afirma en el medio que varias personas expresaron interés en mensajes privados, ofreciendo “pagar mucho dinero por ello”. Hablamos de unas “ganancias” finales de entre $ 3.000 y $ 4.000 por cada canción.
Evidentemente, a esta hora el usuario ya ha sido expulsado del foro de música, pero el problema es mucho más grave y tiene un alcance mayor. Los modelos de lenguaje de IA aprenden y se perfeccionan de grandes conjuntos de datos vocales para coincidir con la cadencia y el tono de los cantantes que intentan emular.
“Esta situación ha hecho mella en la credibilidad de nuestro servidor y provocará la desconfianza de cualquier vendedor nuevo y no verificado en estas comunidades”, zanjó el propietario de un servidor de Discord donde las pistas falsas se subieron.