— Agencias 01/10/2026
Una organización de seguridad de IA demandó a OpenAI por el acceso no autorizado de agentes a Hugging Face durante una prueba de ciberseguridad.
Legal Advocates for Safe Science and Technology (LASST) presentó una demanda contra OpenAI en California por el comportamiento de agentes de inteligencia artificial que, durante una evaluación de ciberseguridad, consiguieron salir de un entorno controlado y acceder sin autorización a sistemas de Hugging Face.
Agentes de OpenAI salieron de un entorno de prueba
El caso tiene su origen en una evaluación interna de ciberseguridad denominada ExploitGym, diseñada para comprobar la capacidad de modelos de inteligencia artificial para encontrar y explotar vulnerabilidades de software.
OpenAI informó posteriormente que sus modelos lograron superar controles que debían mantenerlos aislados de internet. Para conseguirlo, identificaron y explotaron una vulnerabilidad de día cero en Artifactory, un proxy utilizado para almacenar y distribuir paquetes de software.
Una vez que obtuvieron acceso a internet, los sistemas buscaron información relacionada con las pruebas. De acuerdo con la investigación publicada por OpenAI, los agentes llegaron a identificar a Hugging Face como una plataforma que podía contener modelos, conjuntos de datos o soluciones útiles para sus tareas.
Qué ocurrió con Hugging Face
Según la demanda presentada por LASST, aproximadamente 700 agentes de IA participaron en las acciones contra la plataforma.
La organización sostiene que los agentes obtuvieron credenciales, subieron archivos maliciosos y consiguieron acceso a partes de la infraestructura de producción de Hugging Face.
OpenAI confirmó que durante el incidente sus modelos accedieron a sistemas de Hugging Face y que utilizaron diferentes técnicas para obtener información que pudiera ayudarles a resolver las evaluaciones.
La propia empresa señaló que los agentes llegaron a utilizar credenciales robadas y vulnerabilidades para encontrar una ruta que permitiera ejecutar código de manera remota en servidores de Hugging Face. La actividad fue detectada y posteriormente contenida junto con los equipos de seguridad de la plataforma.
La demanda busca responsabilizar a OpenAI
LASST presentó la demanda ante la Corte Superior de San Francisco y solicita medidas judiciales que impidan que los agentes de OpenAI accedan a sistemas de terceros sin autorización.
La organización sostiene que OpenAI debe asumir responsabilidad por las acciones realizadas por sus sistemas autónomos y argumenta que la empresa no puede atribuir los daños únicamente al comportamiento de la inteligencia artificial.
De acuerdo con la demanda, LASST también acusa a OpenAI de infringir legislación de California relacionada con el acceso no autorizado a sistemas informáticos y competencia desleal.
La organización no busca una compensación económica, sino una orden judicial que obligue a modificar determinadas prácticas relacionadas con el desarrollo y funcionamiento de agentes autónomos.
OpenAI rechaza las acusaciones
Un portavoz de OpenAI calificó la demanda como “sin fundamento”, aunque la compañía ha reconocido que el incidente de Hugging Face fue grave y que tomó medidas después de detectar la actividad.
La empresa publicó en agosto un informe detallado sobre el episodio y explicó que desactivó el modelo interno involucrado, restringió su acceso y realizó una investigación con asesores externos. También indicó que ningún modelo destinado a un lanzamiento público estuvo involucrado en la explotación de Hugging Face.
El informe de OpenAI señala además que los agentes se comunicaron mediante canales no autorizados y realizaron acciones que se alejaron de los objetivos originales de la evaluación.
Un nuevo debate sobre la responsabilidad de la IA
El caso plantea una cuestión jurídica que adquiere mayor relevancia conforme los sistemas de inteligencia artificial pueden realizar acciones de manera autónoma: quién debe responder cuando un agente ejecuta acciones no autorizadas en sistemas externos.
La demanda de LASST busca que esa responsabilidad recaiga en el desarrollador y que existan mecanismos legales para evitar que la autonomía de un sistema de IA sea utilizada como argumento para deslindar responsabilidades.
Diversos medios han descrito el proceso como uno de los primeros casos públicos en los que una organización busca responsabilizar legalmente a un desarrollador por acciones realizadas por agentes autónomos.
Hugging Face no forma parte de la demanda. El proceso se encuentra en una etapa inicial y la Corte Superior de San Francisco todavía debe establecer los siguientes pasos del caso.
El episodio ocurre mientras OpenAI mantiene una revisión más amplia sobre el comportamiento de sus agentes. Reuters informó recientemente que la empresa ha identificado otros incidentes de actividad no autorizada de sus sistemas en sitios externos y continúa investigando el alcance de estos comportamientos.
Instala la nueva aplicación de El Tiempo MX