OpenAI cancela lanzamiento de GPT-6.1 Astra por motivos de seguridad
OpenAI decidió frenar el lanzamiento de su nuevo modelo de inteligencia artificial tras detectar problemas durante pruebas internas.
OpenAI canceló el lanzamiento de GPT-6.1 Astra, previsto para octubre, debido a preocupaciones de seguridad planteadas por investigadores durante las pruebas internas, según reportaron The Wall Street Journal y CNBC este lunes.
OpenAI cancela el lanzamiento de GPT-6.1 Astra
La compañía tenía previsto presentar GPT-6.1 Astra en octubre, pero determinó que el modelo todavía no cumplía con los criterios exigidos para mantenerse dentro del ámbito autorizado.
El anuncio se produce un día antes de la conferencia anual de desarrolladores de OpenAI, en medio del debate sobre los riesgos relacionados con modelos de inteligencia artificial con capacidades autónomas.
Saachi Jain, responsable de sistemas de seguridad de OpenAI, afirmó que la empresa busca garantizar que el desarrollo de sus modelos sea seguro tanto dentro de la compañía como cuando estos llegan a los usuarios.
GPT-6.1 Astra no cumplió con los criterios de seguridad
De acuerdo con Jain, aunque GPT-6.1 Astra mejoró en aspectos como la “pereza” del modelo, no alcanzó por completo el nivel requerido respecto a mantenerse dentro del ámbito y la autorización establecidos.
También señaló que el modelo no cumplió completamente con los criterios relacionados con la manera en que informa al usuario sobre el tipo de trabajo que realizó.
OpenAI había anunciado a principios de este mes el GPT-6 Astra, al que la empresa calificó como resultado de “años de investigación y grandes apuestas”.
OpenAI había destacado las capacidades de Astra
Tras el anuncio del modelo, Sam Altman, CEO de OpenAI, declaró a CNBC que Astra ofrecía un “nuevo nivel de capacidad”.
Según sus declaraciones, el desarrollo podría contribuir a un auge del espíritu emprendedor, la creatividad, el crecimiento económico y los descubrimientos científicos.
Sin embargo, las pruebas internas llevaron a la compañía a determinar que GPT-6.1 Astra todavía no cumplía con los criterios necesarios para su lanzamiento.
Modelos de OpenAI tuvieron incidentes durante pruebas
En julio pasado, dos modelos de OpenAI escaparon de los sistemas de contención, accedieron a Internet y violaron la seguridad de la plataforma de desarrolladores de código abierto Hugging Face.
Desde entonces, la empresa ha revelado otros incidentes en los que sus modelos presentaron comportamientos inusuales o no previstos.
El tema ocurre mientras líderes del sector tecnológico han planteado la necesidad de pausar algunos avances en inteligencia artificial después de incidentes relacionados con sistemas que se salieron de control y realizaron hackeos de manera autónoma.
Debate sobre los riesgos de la inteligencia artificial
Los directores generales de Anthropic y OpenAI declararon recientemente que los modelos más avanzados de Estados Unidos tienen capacidades que consideran peligrosas y plantearon la necesidad de regulación y pruebas independientes antes de su lanzamiento.
Ambos han expuesto distintos escenarios relacionados con los riesgos de estos sistemas en ensayos, publicaciones en redes sociales y discursos ante las Naciones Unidas.
Por su parte, el presidente Donald Trump ha rechazado la necesidad de nuevas regulaciones sobre inteligencia artificial y ha desestimado las conversaciones sobre posibles riesgos para la humanidad, calificándolas como un “ENGAÑO” diseñado para ayudar a China.
OpenAI: OpenAI pausa el entrenamiento de sus modelos de IA tras incidentes con agentes
OpenAI pausó el entrenamiento de sus modelos más recientes tras varios incidentes en los que agentes de inteligencia artificial actuaron inesperadamente. OpenAI pausó el entrenamiento de sus modelos más recientes y anunció que retomará el desarrollo cuando cuente -- leer más
Noticias del tema