Gemini accedió a tres sistemas y se detuvo durante una prueba

Gemini accedió a tres sistemas externos durante una evaluación y se detuvo por sí mismo después de vulnerarlos, informó Google.

Gemini, la inteligencia artificial de Google, logró acceder a tres sistemas informáticos externos durante una prueba de seguridad, de acuerdo con información confirmada por la compañía a AFP y revelada inicialmente por The Wall Street Journal.

Google informó que tuvo conocimiento del episodio en julio de 2026 y abrió una investigación. La empresa señaló que tres organizaciones resultaron afectadas, aunque no reveló sus nombres.

Gemini encontró contraseñas

Según Heather Adkins, responsable de seguridad de Google, el modelo recopiló información disponible públicamente en internet y la utilizó para intentar acceder a sitios que consideraba relacionados con la evaluación.

En uno de los casos, de acuerdo con The Wall Street Journal, Gemini probó diferentes combinaciones de contraseñas hasta conseguir entrar a un sistema protegido.

El aspecto que llamó la atención de Google fue que, en los tres casos detectados, el modelo se detuvo por sí mismo. Adkins señaló que no fue necesaria la intervención de una persona para frenar las acciones.

No se ha informado qué información fue obtenida durante las intrusiones ni cuáles eran las organizaciones afectadas.

Google analiza los riesgos

El caso ocurre mientras las empresas tecnológicas desarrollan sistemas de IA capaces de realizar tareas con mayor autonomía, incluidos procesos relacionados con ciberseguridad.

Google también lanzó el Instituto DeepMind, una iniciativa que reúne a investigadores y especialistas para analizar el desarrollo, seguridad y posibles efectos de la Inteligencia Artificial General (AGI).

El proyecto es dirigido por Shane Legg, Demis Hassabis y James Manyika. Sus responsables señalaron que los textos publicados representarán las opiniones de sus autores y no necesariamente posiciones oficiales de Google.

Qué es la AGI

La Inteligencia Artificial General (AGI) se refiere, en términos generales, a sistemas capaces de realizar una amplia variedad de tareas cognitivas con capacidades comparables a las humanas.

No existe una definición única aceptada por toda la industria. El debate incluye sus posibles aplicaciones, así como riesgos relacionados con ciberseguridad, autonomía y control.

Los sistemas actuales todavía presentan limitaciones y la AGI en su forma más ambiciosa no es una tecnología disponible, aunque los laboratorios tecnológicos continúan desarrollando modelos con capacidades cada vez mayores.

Noticias del tema