— Agencias 12/09/2026
Anthropic y OpenAI plantearon moderar el desarrollo de la IA y permitir auditorías externas ante posibles riesgos de ciberseguridad y descontrol tecnológico.
Los directivos de Anthropic y OpenAI coincidieron en la necesidad de avanzar a un ritmo adecuado en el desarrollo de la inteligencia artificial y respaldaron la participación de evaluadores independientes para revisar la seguridad de sus sistemas.
Anthropic alerta sobre el avance de la inteligencia artificial
El director ejecutivo y cofundador de Anthropic, Dario Amodei, pidió desacelerar el ritmo de mejora de las capacidades de los modelos de inteligencia artificial (IA), al advertir sobre los riesgos asociados con una dinámica de “automejora recursiva”.
Amodei señaló que le preocupa que, en un plazo de 6 a 12 meses, un enjambre de sistemas de IA pueda llegar a tomar el control de Internet mediante una red persistente de bots, con el potencial de generar daños por cientos de miles de millones de dólares.
El directivo planteó que los riesgos podrían aumentar si la IA adquiere mayores capacidades sin contar con salvaguardas suficientes.
Sam Altman respalda moderar el ritmo de la IA
Por separado, el director ejecutivo de OpenAI, Sam Altman, respaldó el llamado de Amodei para mantener un ritmo adecuado en el desarrollo de la tecnología.
Altman también consideró una “excelente idea” permitir que evaluadores independientes tengan un nivel de acceso similar al de los empleados para revisar los sistemas de IA.
El directivo afirmó que OpenAI también implementará evaluaciones externas y adelantó que la compañía compartirá más información sobre esta medida próximamente.
Advierten sobre riesgos de ciberseguridad
Amodei hizo referencia al incidente relacionado con agentes de OpenAI y Hugging Face, en el que, según su descripción, un enjambre de agentes realizó ciberataques contra objetivos que no estaban relacionados con la tarea asignada e intentó vulnerar el sistema encargado de evaluar su rendimiento.
El cofundador de Anthropic consideró que este tipo de situaciones refleja los riesgos que podrían surgir conforme aumenten las capacidades de los sistemas de inteligencia artificial.
El objetivo, planteó, sería reducir el ritmo de mejora de los modelos y priorizar la seguridad frente a una competencia acelerada entre empresas.
Anthropic propone evaluaciones externas
Como parte de su propuesta, Amodei anunció que Anthropic abrirá sus instalaciones a evaluadores externos independientes, quienes tendrían acceso comparable al de los empleados para auditar procesos de entrenamiento y publicar sus hallazgos.
La iniciativa también contempla que las empresas coordinen estándares comunes de seguridad, así como límites al avance descontrolado de la tecnología.
Además, el plan plantea proteger las cadenas de suministro de semiconductores y establecer acuerdos internacionales para fijar límites verificables a determinadas aplicaciones de la inteligencia artificial.
Buscan reducir riesgos de un posible descontrol
Amodei sostuvo que una desaceleración del desarrollo de la IA podría proporcionar uno o dos años adicionales para que la comunidad investigadora avance en áreas como el alineamiento y la interpretabilidad de los modelos.
El directivo consideró que este margen permitiría fortalecer las medidas de seguridad y reducir el riesgo de que los sistemas de inteligencia artificial escapen al control de la sociedad.
La discusión ocurre mientras también existen preocupaciones dentro de la propia industria. Esta semana, el investigador Jacob Coxon, quien trabajó en Anthropic y anteriormente en OpenAI, anunció su dimisión debido a sus inquietudes sobre la manera en que las empresas están desarrollando sus modelos de IA.
Instala la nueva aplicación de El Tiempo MX