— Agencias 23/10/2026
Anthropic detectó que su modelo Mythos 5 atacó un repositorio real, creó identidades falsas y casi nunca abandonó la ofensiva por iniciativa propia.
El modelo de inteligencia artificial Mythos 5, desarrollado por Anthropic, mantuvo un ciberataque contra un desarrollador real durante una evaluación de seguridad, incluso después de recibir información sobre el posible daño que podía causar. Durante el incidente, el sistema intentó introducir código malicioso en un repositorio de GitHub y creó identidades falsas para presionar a su administrador.
Los resultados fueron difundidos el 23 de octubre por Anthropic, junto con un informe del Instituto de Seguridad de la Inteligencia Artificial del Reino Unido (AISI), que participó en la evaluación.
De acuerdo con los datos publicados, en 9 de las 43 ejecuciones del experimento, el modelo realizó acciones no autorizadas que afectaron a personas y organizaciones ajenas al entorno simulado de la prueba.
El modelo creó identidades falsas para presionar a un desarrollador
El ejercicio se realizó entre el 25 y el 28 de julio, como parte de una evaluación destinada a medir las capacidades de ciberseguridad de modelos avanzados de inteligencia artificial.
A Mythos 5 se le asignó un desafío conocido como captura la bandera, en el que debía recuperar información protegida de una red simulada que imitaba los sistemas de una organización.
Durante el ejercicio, el modelo detectó que una máquina de la red se conectaba periódicamente con GitHub y asumió, de manera equivocada, que un repositorio externo pertenecía al sistema que debía vulnerar.
El agente intentó entonces subir código malicioso a ese proyecto, administrado por desarrolladores que no tenían relación con la evaluación. Cuando el responsable del repositorio rechazó la propuesta, el modelo creó cuentas falsas que se hicieron pasar por personas reales y las utilizó para asegurar, sin fundamento, que el código era seguro.
El administrador mantuvo su negativa y la sesión terminó cuando se agotó el tiempo asignado.
Antes de publicar sus resultados, AISI notificó a GitHub. Según el informe, la plataforma confirmó que la conducta infringía sus términos de servicio y colaboró para retirar los rastros de la actividad y notificar a los usuarios afectados.
Mythos 5 casi nunca abandonó el ataque por iniciativa propia
Uno de los resultados más relevantes apareció cuando Anthropic repitió el experimento bajo distintas condiciones para medir la reacción del modelo ante advertencias sobre el daño que podía causar.
Cuando los investigadores modificaron las notas internas del sistema para advertirle, antes de iniciar la ofensiva, que podía perjudicar a personas reales, la probabilidad de que comenzara el ataque bajó de 83 a 13 por ciento.
Sin embargo, una vez iniciada la ofensiva, el modelo mostró mucha menos disposición a detenerse. En las repeticiones del incidente, abandonó espontáneamente el ataque en apenas 2 por ciento de los casos.
Incluso cuando los investigadores incorporaron pruebas explícitas de que interactuaba con desarrolladores reales, la tasa de abandono solo aumentó a 5 por ciento.
Anthropic describió este comportamiento como un efecto de momentum: a medida que el modelo avanzaba en su estrategia, sus propias notas de progreso reforzaban la idea de que el camino elegido era correcto, lo que dificultaba que reconsiderara sus acciones ante nuevas señales de riesgo.
El informe también señaló que Mythos 5 llegó a interpretar que los responsables del repositorio formaban parte de la simulación, aunque en otros momentos de la misma interacción reconocía que había personas reales involucradas.
Anthropic califica el comportamiento como una forma de deshonestidad
La empresa describió la creación de identidades falsas y la presión ejercida sobre el administrador del repositorio como una forma grave de deshonestidad que no había observado previamente en sus evaluaciones internas.
Anthropic sostuvo que el modelo no perseguía objetivos propios, sino que permanecía enfocado en completar la tarea asignada, incluso cuando recurría al engaño para intentar conseguirlo.
La evaluación se realizó con acceso a internet habilitado y con los filtros de seguridad habituales desactivados, una condición utilizada para medir las capacidades del sistema sin las restricciones de sus versiones destinadas al uso general.
La compañía afirmó que las salvaguardas de producción para ciberseguridad habrían bloqueado esa conducta si hubieran estado activas durante el ejercicio.
Otros modelos mostraron mayor disposición a detenerse
El informe del AISI también comparó el comportamiento de Mythos 5 con el de otros sistemas en escenarios similares.
Según los resultados publicados, Mythos 5.1, Claude Opus 5.5 y un modelo interno de investigación comenzaron el mismo ataque entre 0 y 13 por ciento de las veces, frente al 83 por ciento registrado por Mythos 5 en la condición inicial.
Los sistemas comparados también mostraron una mayor disposición a detenerse espontáneamente una vez iniciada la ofensiva, de acuerdo con la evaluación.
Como consecuencia de los hallazgos, el AISI anunció que sus próximas pruebas de tipo captura la bandera se realizarán sin acceso a internet, mientras desarrolla controles más estrictos para evitar que los ejercicios de seguridad afecten a personas u organizaciones reales.
Instala la nueva aplicación de El Tiempo MX