La advertencia sobre una IA peligrosa tiene más de una década

Las advertencias sobre una inteligencia artificial capaz de amenazar a la humanidad surgieron mucho antes de los modelos actuales.

Las advertencias sobre los posibles riesgos extremos de la inteligencia artificial no comenzaron con ChatGPT. Desde hace más de dos décadas, investigadores y figuras tecnológicas han debatido sobre la posibilidad de que sistemas cada vez más capaces representen riesgos para la humanidad.

Primeras advertencias

Uno de los antecedentes del movimiento por la seguridad de la IA se encuentra en la creación del Machine Intelligence Research Institute (MIRI) en 2000. A partir de 2005, la organización comenzó a enfocarse en los posibles riesgos existenciales relacionados con la inteligencia artificial.

En 2009, Eliezer Yudkowsky, uno de los cofundadores del MIRI, participó en la creación de LessWrong, una comunidad donde adquirieron relevancia debates sobre la singularidad tecnológica y los riesgos asociados con una inteligencia artificial que pudiera superar las capacidades humanas.

En ese entorno confluyeron ideas relacionadas con el transhumanismo y el altruismo eficaz. Una de las preocupaciones centrales era que una IA avanzada pudiera desarrollar objetivos incompatibles con los intereses humanos.

Figuras tecnológicas

Las preocupaciones también llegaron a figuras destacadas de la industria tecnológica.

En 2015, Elon Musk donó 10 millones de dólares para apoyar investigaciones relacionadas con la seguridad de la inteligencia artificial.

Ese mismo año, Musk y otras personalidades del sector, entre ellas Demis Hassabis, Geoffrey Hinton, Yann LeCun, Ilya Sutskever y Steve Wozniak, respaldaron un manifiesto que pedía aumentar la investigación sobre seguridad y desarrollar sistemas capaces de cumplir los objetivos establecidos por las personas.

Bill Gates también expresó entonces preocupación por la posibilidad de que las máquinas desarrollaran capacidades suficientemente avanzadas para convertirse en un problema si no eran manejadas adecuadamente.

Durante esos años, las advertencias se centraban principalmente en la necesidad de investigar mecanismos de seguridad y control.

Regreso del pesimismo

El debate tomó mayor fuerza en 2023, después del lanzamiento de modelos de IA cada vez más avanzados.

Una carta publicada a través de Future of Life Institute pidió detener durante al menos seis meses el entrenamiento de sistemas más potentes que GPT-4. Entre sus firmantes estuvieron Elon Musk y Steve Wozniak.

Meses después, el Center for AI Safety publicó otra declaración en la que se planteó que reducir el riesgo de extinción provocado por la IA debía considerarse una prioridad mundial, junto con amenazas como las pandemias y la guerra nuclear.

Entre los firmantes estuvieron Geoffrey Hinton, Dario Amodei, Demis Hassabis y Sam Altman.

Hinton se convirtió además en una de las voces que con mayor frecuencia han advertido públicamente sobre los posibles riesgos de una inteligencia artificial que llegue a superar determinadas capacidades humanas.

Riesgo de extinción

Una de las declaraciones que recientemente volvió a poner el tema en el centro del debate fue la de Evan Hubinger, investigador de alineamiento de Anthropic.

Hubinger ha planteado un escenario en el que existe una probabilidad de que una IA avanzada pueda terminar provocando la extinción de la humanidad. Su trayectoria incluye trabajos anteriores en el MIRI y el Center for AI Safety.

Sus declaraciones adquirieron especial relevancia debido a que actualmente forma parte de Anthropic, una de las compañías que desarrollan modelos de IA de frontera.

Sin embargo, las estimaciones sobre riesgos extremos de la inteligencia artificial siguen siendo objeto de debate entre investigadores y especialistas, y no constituyen una predicción comprobada sobre un resultado futuro.

Riesgos actuales

El debate no se limita a escenarios de extinción. Los sistemas actuales ya plantean problemas relacionados con su comportamiento, autonomía y capacidad para producir daños.

Uno de los conceptos centrales es la desalineación, que describe situaciones en las que el comportamiento de un sistema no coincide con los objetivos o intenciones establecidos por las personas.

También se analiza la automejora recursiva, relacionada con la posibilidad de que un sistema participe en el desarrollo de versiones posteriores de inteligencia artificial.

La discusión actual combina estos riesgos con problemas más inmediatos derivados del uso de modelos avanzados.

Las advertencias sobre escenarios extremos forman parte de un debate que comenzó hace décadas y que adquirió mayor visibilidad con el desarrollo acelerado de la IA generativa.

Noticias del tema