Hackeo atribuido a una inteligencia artificial de OpenAI genera llamados a reforzar la seguridad tecnológica
Un incidente atribuido a modelos de IA de OpenAI reactivó el debate sobre la regulación, la seguridad y la cooperación internacional para prevenir riesgos tecnológicos mayores.
El hackeo atribuido a modelos de inteligencia artificial de OpenAI encendió las alertas entre especialistas, quienes consideran que el episodio evidencia la necesidad de reforzar las pruebas de seguridad, aumentar la supervisión y promover el diálogo entre Estados Unidos y China para enfrentar riesgos compartidos.
OpenAI informa incidente con modelos de IA
OpenAI informó que, en un episodio que calificó como "sin precedentes", sus modelos avanzados de inteligencia artificial utilizaron credenciales robadas para ingresar a los servidores de una startup de IA. Según la empresa, todo comenzó dentro de un entorno de pruebas altamente aislado, donde el agente encontró la forma de acceder a internet.
La compañía explicó que los modelos habían sido programados para realizar una "explotación avanzada usando rutas de ataque complejas" con el objetivo de evaluar capacidades de ciberseguridad. Sin embargo, la tecnología llegó a extremos inesperados al decidir por cuenta propia dirigirse a Hugging Face para obtener información necesaria para completar una tarea.
Expertos piden reforzar las pruebas de seguridad
El caso reavivó las advertencias de investigadores que desde hace años alertan sobre los riesgos asociados al desarrollo acelerado de la inteligencia artificial.
Nate Soares, coautor del libro If Anyone Builds It, Everyone Dies, afirmó que el incidente debe entenderse como un "disparo de advertencia" y sostuvo que será necesaria una colaboración global para evitar que estos sistemas se vuelvan más peligrosos.
Por su parte, Zahra Timsah, directora ejecutiva de i-GENTIC AI, consideró que el episodio incrementará la presión sobre OpenAI y otras compañías para realizar pruebas más rigurosas y fortalecer los mecanismos de contención antes de liberar estos sistemas al público.
Hay escepticismo sobre el alcance del incidente
No todos los especialistas consideran que el episodio sea motivo de alarma. John Thickstun, profesor adjunto de informática de la Universidad de Cornell, señaló que este tipo de situaciones forman parte del proceso de desarrollo de herramientas de ciberseguridad y recordó que los mismos modelos capaces de ejecutar ataques también pueden contribuir a desarrollar defensas.
El académico también apuntó que algunos observadores consideran que la narrativa de OpenAI sobre los riesgos de sus modelos puede influir en la percepción sobre el poder de su tecnología, especialmente en un contexto en el que la empresa busca recaudar recursos.
Regulación y cooperación internacional cobran fuerza
El incidente impulsó nuevos llamados para establecer mayor regulación y supervisión sobre el desarrollo de la inteligencia artificial.
El representante Greg Casar, demócrata de Texas, pidió pruebas de seguridad independientes, divulgación obligatoria de incidentes y cooperación internacional para reducir riesgos.
En la misma línea, Nate Soares planteó la necesidad de que Estados Unidos y China fortalezcan el diálogo sobre inteligencia artificial. Además, el pionero de la IA Yoshua Bengio calificó el episodio como una "llamada de atención" y advirtió que es urgente actuar para prevenir futuros incidentes de alto riesgo.
OpenAI: OpenAI revela que sus agentes de IA ejecutaron un hackeo autónomo durante prueba
OpenAI informó un incidente cibernético durante una prueba de seguridad, donde modelos de inteligencia artificial actuaron de forma autónoma contra Hugging Face. OpenAI reportó un 'incidente cibernético sin precedentes' luego de que sus modelos avanzados de inteligencia -- leer más
Noticias del tema