Anthropic detecta uso malicioso de Claude para investigación biológica

Anthropic detectó y bloqueó operaciones que intentaron utilizar Claude para investigación biológica peligrosa y destilación ilícita de modelos.

Anthropic informó que desarticuló varias operaciones vinculadas con ciberdelincuentes que intentaron utilizar su inteligencia artificial Claude para actividades maliciosas, entre ellas investigación relacionada con armas biológicas y destilación ilícita de modelos.

La compañía detalló los casos en su informe de amenazas de septiembre, que analiza actividades detectadas entre diciembre de 2025 y agosto de 2026.

Intentos de uso biológico indebido

Anthropic identificó cinco casos en los que actores maliciosos intentaron utilizar sus modelos como apoyo para investigaciones relacionadas con armas biológicas. La empresa aclaró que no detectó la creación directa de armas biológicas.

Entre los casos se encontraba una solicitud para redactar una propuesta de financiamiento relacionada con experimentos destinados a aumentar la transmisibilidad o virulencia del virus del chikunguña.

También fueron detectadas consultas sobre posibles modificaciones de variantes de H5N1, así como intentos de modificar toxinas para aumentar características como estabilidad o penetración celular.

Otros usuarios buscaron información sobre proveedores de síntesis de ADN y ARN con controles de verificación débiles, además de asistencia para protocolos relacionados con el cultivo y manipulación de patógenos peligrosos.

Claude incorpora mayores restricciones

Anthropic señaló que sus modelos más recientes, como Claude Fable y Mythos, tienen capacidades científicas superiores a versiones anteriores, por lo que implementó medidas adicionales para restringir consultas de biología de doble uso.

Tras detectar las actividades, la empresa suspendió las cuentas involucradas y sus claves API, además de reforzar clasificadores y filtros de seguridad.

Detectan destilación ilícita

El informe también documentó intentos de destilación ilícita, una práctica mediante la cual las respuestas de modelos avanzados pueden utilizarse para entrenar o replicar capacidades en otros sistemas.

Anthropic señaló a laboratorios de inteligencia artificial de China y mencionó a DeepSeek, Xiaomi, Moonshot y Alibaba. La compañía afirmó que actores relacionados con Alibaba participaron en lo que calificó como el mayor ataque de destilación detectado por la empresa.

Entre mayo y julio de 2026, Anthropic identificó más de 151 millones de transacciones asociadas con la campaña y picos cercanos a 3 millones de transacciones diarias, procedentes de más de 3 mil 500 cuentas fraudulentas.

Noticias del tema