— Agencias 21/09/2026
Investigadores comparan el avance de la inteligencia artificial con febrero de 2020, ante advertencias sobre sistemas cada vez más autónomos y capaces.
La renuncia de Jacob Coxon a Anthropic y sus advertencias sobre una inteligencia artificial capaz de mejorar sus propias capacidades reavivaron el debate sobre el ritmo de desarrollo tecnológico. Investigadores citados por Time compararon el momento actual con febrero de 2020, cuando la pandemia de COVID-19 comenzaba a extenderse.
La comparación con febrero de 2020
La analogía plantea que algunas amenazas pueden avanzar inicialmente de manera gradual y posteriormente acelerarse. En el caso de la inteligencia artificial, la discusión gira en torno a si las instituciones y empresas podrán implementar medidas de seguridad al mismo ritmo que aumentan las capacidades de los modelos.
La preocupación se concentra especialmente en sistemas capaces de operar con mayor autonomía, desarrollar nuevas capacidades y participar en procesos relacionados con la creación de futuras generaciones de IA.
Anthropic también ha publicado mediciones destinadas a seguir el ritmo de desarrollo de los sistemas de IA, incluida la participación de estos modelos en la propia investigación y desarrollo de nuevas tecnologías.
La renuncia de Jacob Coxon
El 8 de septiembre, Jacob Coxon anunció su salida de Anthropic después de haber trabajado durante tres años en investigación de preentrenamiento en OpenAI y Anthropic.
En sus publicaciones expresó preocupación porque las principales empresas del sector avanzan hacia sistemas de inteligencia artificial capaces de mejorar sus propias capacidades.
La advertencia provocó reacciones entre investigadores y directivos del sector. Evan Hubinger, integrante del área de alineación de Anthropic, respaldó públicamente parte de las preocupaciones planteadas por Coxon.
Según la información citada por Time, las publicaciones de Coxon alcanzaron 153 millones de visualizaciones en 36 horas, llevando el debate sobre los riesgos de la IA a redes sociales, medios de comunicación y espacios políticos.
Dario Amodei pide reducir el ritmo
El 12 de septiembre, Dario Amodei, cofundador y director ejecutivo de Anthropic, planteó públicamente la necesidad de reducir el ritmo de desarrollo de la inteligencia artificial para permitir que las medidas de seguridad alcancen a las capacidades de los modelos.
Amodei no propuso detener completamente el entrenamiento de nuevos modelos. Su planteamiento contempla una desaceleración acompañada de auditorías independientes, estándares de seguridad y coordinación entre empresas y gobiernos.
El directivo también advirtió sobre escenarios en los que sistemas de IA altamente autónomos podrían adquirir capacidades con efectos difíciles de controlar.
La propuesta recibió respaldo de figuras como Sam Altman, director ejecutivo de OpenAI, y Elon Musk, aunque otros integrantes de la industria han cuestionado la necesidad de desacelerar el desarrollo.
Diferencias dentro de la industria tecnológica
El debate no tiene una posición única entre los líderes tecnológicos. Mientras algunos investigadores y ejecutivos plantean reducir el ritmo de desarrollo para fortalecer la seguridad, otros consideran que las advertencias sobre riesgos extremos no justifican frenar el avance.
El director ejecutivo de Nvidia, Jensen Huang, ha rechazado las advertencias sobre una posible extinción humana causada por la IA y cuestionado la necesidad de nuevas restricciones, de acuerdo con reportes recientes.
En el ámbito político estadounidense también existen posiciones distintas. El presidente Donald Trump ha rechazado los llamados a desacelerar el desarrollo y ha señalado la competencia tecnológica con China como uno de los factores centrales del debate.
Los escenarios que preocupan a investigadores
Entre los escenarios mencionados por quienes advierten sobre los riesgos de la IA se encuentra el posible uso de estos sistemas para desarrollar herramientas biológicas peligrosas, realizar ataques informáticos o adquirir niveles de autonomía difíciles de supervisar.
Geoffrey Irving, exinvestigador de OpenAI y DeepMind, ha planteado que las empresas deberían detener el entrenamiento de nuevos modelos mientras no existan mecanismos suficientes de seguridad.
Según la información proporcionada por Time, Irving estima en 50% la posibilidad de una extinción humana durante la próxima década vinculada con la IA. Esta cifra corresponde a su propia estimación y no representa un consenso científico.
El debate actual se concentra, por tanto, en cómo equilibrar el desarrollo de nuevas capacidades con mecanismos capaces de identificar y reducir riesgos antes de que los sistemas alcancen niveles superiores de autonomía.
Instala la nueva aplicación de El Tiempo MX