— Agencias 30/09/2026
Trump y líderes tecnológicos acordaron nuevas medidas para supervisar los riesgos de la inteligencia artificial, aunque el pacto no es legalmente obligatorio.
El presidente de Estados Unidos, Donald Trump, presentó un acuerdo de una página firmado por dirigentes de empresas como Google, Nvidia, Anthropic y OpenAI, con el que se establecen cuatro niveles de controles y auditorías para vigilar los riesgos asociados con los modelos de inteligencia artificial.
Trump impulsa controles voluntarios para la inteligencia artificial
El acuerdo plantea que las empresas adopten medidas para supervisar el comportamiento de sus modelos durante su desarrollo y despliegue. Trump lo describió como un compromiso “moralmente vinculante”, pero el documento no establece obligaciones legales ni sanciones por incumplimiento.
El texto también contempla que, con el tiempo, estas medidas puedan convertirse en leyes o regulaciones, por lo que el pacto deja abierta la posibilidad de una regulación formal del sector.
Cuatro niveles de control para los modelos de IA
Los proveedores de inteligencia artificial se comprometieron a establecer cuatro niveles de supervisión.
El primero contempla controles internos para vigilar las capacidades y el comportamiento de los modelos, particularmente frente a riesgos relacionados con ciberseguridad y bioseguridad.
También deberán contar con equipos internos encargados de supervisar que esos controles funcionen adecuadamente y detectar posibles problemas durante el desarrollo y utilización de los sistemas.
El tercer nivel contempla la participación de auditores externos independientes, quienes deberán evaluar si las medidas de seguridad implementadas por las compañías funcionan como fueron diseñadas.
Finalmente, cada empresa deberá contar con un comité independiente dentro de su consejo directivo para revisar los informes elaborados por los equipos internos y los evaluadores externos.
Auditorías buscarán detectar riesgos antes del despliegue
El acuerdo plantea que las evaluaciones externas permitan revisar los controles de seguridad de los modelos de inteligencia artificial y detectar posibles riesgos.
Entre las áreas contempladas se encuentran los posibles usos de estos sistemas para ciberataques, acceso no autorizado a sistemas y amenazas biológicas o químicas.
Empresas como Anthropic y OpenAI ya han trabajado con evaluadores externos para examinar sus modelos, particularmente durante las etapas de diseño y antes de su despliegue.
Empresas buscan establecer reglas comunes para la IA
El pacto también contempla que las compañías participantes se reúnan de manera periódica para establecer normas y buenas prácticas relacionadas con la seguridad de la inteligencia artificial.
La iniciativa ocurre después de que Anthropic, OpenAI y Google DeepMind comenzaran a trabajar en un esquema de supervisión de riesgos para la IA. De acuerdo con información publicada previamente, las tres compañías analizaban la creación de un organismo inspirado en la Autoridad Reguladora de la Industria Financiera de Estados Unidos (FINRA).
El punto pendiente del acuerdo
Aunque el documento establece controles internos, auditorías externas y supervisión mediante comités independientes, el pacto no tiene fuerza legal ni contempla sanciones específicas en caso de incumplimiento.
Por ahora, las medidas dependen de la participación voluntaria de las empresas firmantes, mientras el propio acuerdo contempla que algunas de ellas puedan convertirse posteriormente en disposiciones legales o regulatorias.
Instala la nueva aplicación de El Tiempo MX