— Agencias 23/09/2026
Microsoft actualizó sus reglas de inteligencia artificial para evaluar riesgos antes del lanzamiento y supervisar agentes autónomos después.
Microsoft actualizó su Estándar de IA Responsable para reforzar los controles sobre sistemas de inteligencia artificial capaces de actuar de forma autónoma, utilizar herramientas y acceder a datos para completar tareas.
La compañía también presentó su Informe de Transparencia sobre IA Responsable 2026, en el que detalla las medidas implementadas durante el último año ante el desarrollo de sistemas con mayores capacidades.
Los agentes autónomos requieren nuevos controles
A diferencia de un chatbot convencional, los agentes de IA pueden conectar modelos con herramientas, servicios y fuentes de información para ejecutar tareas que requieren varios pasos.
Esta capacidad genera nuevos riesgos relacionados con los permisos otorgados al sistema, los datos a los que puede acceder, los servicios que puede utilizar, su memoria y el nivel de autonomía disponible.
Por ello, Microsoft modificó sus reglas para establecer responsabilidades específicas de acuerdo con el tipo de tecnología involucrada.
El estándar actualizado contempla requisitos para desarrolladores de modelos, proveedores de plataformas y organizaciones que implementan aplicaciones de IA.
Microsoft refuerza las pruebas de seguridad
La compañía también incorporó prácticas de modelado de amenazas diseñadas para sistemas agenciales.
Entre las medidas se encuentran evaluaciones internas, defensas contra ataques de inyección de instrucciones y clasificadores destinados a detectar comportamientos considerados de riesgo.
Microsoft señala que estos controles buscan identificar posibles problemas relacionados con la manera en que los agentes interactúan con herramientas, información y servicios externos.
La supervisión continúa después del lanzamiento
Uno de los principales cambios consiste en extender la gestión de riesgos más allá del momento en que una herramienta de IA llega al mercado.
Las organizaciones que implementen estos sistemas deberán evaluar previamente sus capacidades y limitaciones, analizar los riesgos relacionados con el contexto de uso y establecer mecanismos de supervisión.
Después del lanzamiento también deberán controlar el funcionamiento del sistema, recopilar retroalimentación y registrar posibles incidentes.
Los usuarios deberán recibir información sobre los usos previstos, las limitaciones y las medidas de seguridad incorporadas.
Microsoft sostiene que este esquema distribuye la responsabilidad entre quienes desarrollan la tecnología y quienes determinan cómo será utilizada en situaciones concretas.
Las reglas siguen el marco del NIST
Microsoft señala que sus procesos están alineados con el Marco de Gestión de Riesgos de IA del Instituto Nacional de Estándares y Tecnología de Estados Unidos (NIST).
Este marco organiza la gestión de riesgos en cuatro funciones principales: gobernar, identificar, medir y gestionar.
La actualización del estándar busca aplicar estos principios durante las distintas etapas de desarrollo y utilización de los sistemas de inteligencia artificial.
Microsoft amplía las evaluaciones antes de lanzar productos
El informe de transparencia también señala un incremento en la capacitación y las evaluaciones relacionadas con el uso responsable de la IA.
Durante el último año, cerca de 20,000 ingenieros, responsables de políticas públicas y clientes recibieron formación relacionada con estas prácticas.
Microsoft también analizó más de 100 leyes y proyectos normativos para adaptar sus reglas internas. En este trabajo participaron más de 80 empleados de más de 30 equipos.
Uno de los casos mencionados es Copilot Health, que fue evaluado antes de su lanzamiento mediante consultas con más de 250 profesionales clínicos acreditados de más de 20 países.
La compañía también realizó pruebas con usuarios para analizar aspectos como la claridad, utilidad y seguridad de la herramienta.
Microsoft identifica nuevos riesgos relacionados con la IA
El informe identifica cinco transformaciones vinculadas con la expansión de la inteligencia artificial: el crecimiento de su adopción, el uso de chatbots para consultas personales y de salud, la expansión de sistemas generativos y agenciales, el uso de estas tecnologías para fraudes y contenido falso, y la evolución de las regulaciones.
Microsoft también advierte sobre las diferencias de acceso entre regiones e idiomas.
Como parte de sus investigaciones, la empresa trabaja actualmente en seis localidades de Asia y desarrolló PazaBench, una herramienta de evaluación que cubre 39 lenguas africanas.
Microsoft busca supervisar la IA durante todo su ciclo de vida
Con las modificaciones al Estándar de IA Responsable, Microsoft plantea que los controles acompañen a los sistemas de inteligencia artificial desde su diseño y evaluación hasta su funcionamiento en entornos reales.
El cambio adquiere especial relevancia para los agentes autónomos, debido a que pueden ejecutar múltiples acciones utilizando herramientas, datos y servicios con distintos niveles de intervención humana.
Instala la nueva aplicación de El Tiempo MX