Grok enfrenta demandas por sexualizar fotografías de menores de edad
Cinco demandantes anónimas acusan a xAI de permitir que Grok generara imágenes sexuales falsas a partir de fotografías tomadas cuando eran menores de edad.
La empresa de inteligencia artificial xAI, propiedad de Elon Musk, enfrenta varias demandas en Estados Unidos por la generación de imágenes sexuales falsas mediante su chatbot Grok, a partir de fotografías reales de personas cuando eran menores de edad. Uno de los casos involucra a una joven cuya imagen de graduación escolar fue manipulada cuando tenía 14 años.
Una fotografía escolar fue convertida en imagen sexual
La demandante identificada como Jane Doe 5 supo que su fotografía había sido manipulada cuando un investigador policial le mostró la imagen original y le hizo preguntas.
De acuerdo con información de Bloomberg, un adulto utilizó Grok para transformar una fotografía de su graduación escolar, tomada cuando tenía 14 años, en material de abuso sexual infantil. El responsable fue el hermano mayor de una compañera que aparecía en la imagen, quien difundió el contenido en internet.
En su demanda, la joven señaló que desconoce cuántas personas pudieron obtener el material y hasta dónde llegó su distribución.
El caso forma parte de una serie de acciones legales contra xAI, en las que las víctimas buscan que la empresa responda por la generación y difusión de imágenes sexualizadas sin su consentimiento.
Las demandas contra xAI comenzaron en marzo
El 16 de marzo, tres jóvenes de Tennessee, dos de ellas menores de edad, presentaron una demanda contra xAI ante un tribunal federal de San José, California. Solicitaron que el proceso se convirtiera en una acción colectiva para incluir a otras personas identificables en imágenes sexualizadas creadas con Grok a partir de fotografías reales.
En agosto, otra mujer, identificada como Jane Doe 4, se sumó al proceso. Según información de The Washington Post citada por TechCrunch, su padrastro utilizó el chatbot para manipular una fotografía tomada cuando ella tenía 11 años y generar más de 7 mil imágenes explícitas.
Una semana después se presentó otra demanda colectiva. En ese caso, una mujer que fue víctima de abuso durante su infancia afirmó que xAI entrenó a Grok con datos que incluían imágenes suyas registradas en una lista de una organización estadounidense dedicada a identificar material de abuso sexual infantil. La denunciante sostiene que el chatbot generó contenido nuevo con su rostro.
El 3 de septiembre también se conoció una demanda presentada por seis niños de Arkansas. Según el documento, un fotógrafo profesional habría utilizado retratos escolares de los menores para crear imágenes sexuales falsas con Grok. Durante una investigación policial fueron localizados alrededor de mil 700 archivos en su domicilio, algunos presuntamente generados con esa herramienta.
Demandantes cuestionan las protecciones de Grok
Las demandas sostienen que xAI no implementó medidas suficientes para impedir la generación de imágenes sexuales de personas reales.
Uno de los documentos señala que, en octubre de 2025, la compañía lanzó el denominado modo picante de Grok Imagine, que permitía crear contenido sexual o violento.
Otra acusación afirma que, entre el 29 de diciembre de 2025 y el 8 de enero, el sistema generó y publicó en X aproximadamente 3 millones de imágenes sexualizadas, más de 23 mil de ellas con personas que aparentemente eran menores de edad. Estas cifras corresponden a lo señalado en la demanda y no constituyen una verificación independiente.
Posteriormente, xAI restringió esas funciones a suscriptores de pago. Sin embargo, los demandantes consideran que el cambio no elimina los riesgos relacionados con la generación de contenido sexual sin consentimiento.
El 12 de enero, el regulador británico Ofcom abrió una investigación formal contra X, mientras que la fiscalía de California anunció otra dos días después.
Buscan reunir 13 demandas en un solo proceso
Los abogados de las víctimas solicitaron que las distintas causas se agrupen en un solo procedimiento judicial.
De acuerdo con el registro del caso en AI Law Wiki, la petición contempla 13 demandas: ocho presentadas en Arkansas y cinco en California. La propuesta es que sean atendidas por un tribunal federal del oeste de Arkansas.
El panel judicial encargado de resolver este tipo de solicitudes tiene previsto escuchar los argumentos el 3 de diciembre en Nueva Orleans.
La resolución determinará si los casos avanzan de manera conjunta o continúan por separado, mientras las acusaciones contra xAI se centran en las medidas de seguridad de Grok y en el uso de fotografías de personas menores de edad para producir imágenes sexuales falsas.
Noticias del tema