OpenAI llama al Congreso de EU a establecer reglas obligatorias de seguridad para la IA
La empresa busca impulsar un marco federal común para regular los sistemas avanzados de inteligencia artificial en Estados Unidos.
OpenAI instó al Congreso de Estados Unidos a aprobar rápidamente normas obligatorias de seguridad para los sistemas de inteligencia artificial más potentes, al considerar insuficientes los compromisos voluntarios de los desarrolladores.
OpenAI pide una regulación federal para la IA
Chris Lehane, director de asuntos globales de OpenAI, afirmó que los compromisos voluntarios de las empresas desarrolladoras de inteligencia artificial ya no son suficientes y llamó a los legisladores a actuar antes de que el Congreso levante sus sesiones en diciembre.
Lehane señaló que el desarrollo acelerado de la IA requiere normas obligatorias relacionadas con las capacidades reales de los modelos, en lugar de establecer criterios basados en el tamaño de las empresas.
La compañía creadora de ChatGPT propuso un marco federal que incluya estándares comunes de pruebas, evaluación independiente de los modelos de vanguardia, requisitos de ciberseguridad más estrictos e informes obligatorios sobre incidentes graves de seguridad.
Crecen las preocupaciones sobre los sistemas de IA
El llamado de OpenAI ocurre en medio de crecientes preocupaciones sobre el impacto y la seguridad de la inteligencia artificial.
La empresa señaló que una poderosa tecnología de OpenAI que operaba fuera de supervisión humana hackeó de forma autónoma la plataforma Hugging Face en julio, situación que aumentó las preocupaciones sobre las capacidades de los sistemas avanzados.
Los cuestionamientos también se intensificaron tras la dimisión del investigador de Anthropic, Jacob Coxon, quien acusó a las empresas de estar poniendo en riesgo a la sociedad durante la carrera por desarrollar nuevos modelos de IA.
OpenAI modifica su postura sobre las leyes estatales
La declaración de Lehane representa un cambio en la posición de OpenAI, que anteriormente se había opuesto a que los estados establecieran sus propias normas sobre inteligencia artificial y había solicitado que el Congreso desarrollara una legislación federal.
El planteamiento actual acerca a OpenAI a su rival Anthropic, que también respalda una regulación más estricta para la inteligencia artificial.
Actualmente, ninguna ley federal regula estos modelos en Estados Unidos. La administración de Donald Trump ha mantenido hasta ahora un enfoque ligero, con el objetivo de preservar la competitividad del país frente a China y neutralizar las leyes aprobadas por los estados.
La IA gana relevancia política en Estados Unidos
La regulación de la inteligencia artificial enfrenta un escenario complejo debido a la división política en Washington.
A dos meses de las elecciones legislativas de mitad de mandato, la IA se ha convertido en un tema central de campaña en Estados Unidos.
OpenAI: GPT-6 Astra: la nueva IA de OpenAI que preocupa por su autonomía
OpenAI comenzó a desplegar GPT-6 Astra, un nuevo modelo capaz de utilizar computadoras de manera autónoma, aunque sus capacidades también generan preocupación por los riesgos de ciberseguridad. GPT-6 Astra, el nuevo modelo de inteligencia artificial de OpenAI, comenzó -- leer más
Noticias del tema