Rey Carlos III alerta sobre los riesgos de la IA si cae en 'manos equivocadas'
El rey Carlos III reunió en Escocia a líderes tecnológicos para abordar los desafíos que plantea el avance de la inteligencia artificial.
Durante una reunión en Dumfries House, el monarca británico advirtió sobre los "riesgos existenciales" de la inteligencia artificial si "cae en manos equivocadas", mientras representantes de grandes empresas debatieron sobre sus límites y regulación.
Carlos III alerta sobre los riesgos de la IA
El rey británico, Carlos III, advirtió contra los "riesgos existenciales" que se presentan si la inteligencia artificial (IA) "cae en manos equivocadas y termina siendo usada de formas potencialmente catastróficas".
El monarca reunió en Dumfries House, Escocia, a varios ejecutivos y líderes mundiales del sector en una especie de "cumbre" para explorar los límites de un uso de la IA que traiga beneficios a la sociedad, en un contexto en el que se multiplican las advertencias sobre un desarrollo no controlado de sus capacidades.
Entre los invitados figuran representantes de Nvidia, Google DeepMind, OpenAI y Anthropic, así como representantes de China o del Vaticano y el secretario de Estado británico Kanishka Narayan.
"Quienes han creado estas tecnologías -recordó el monarca- advierten cada vez más de que la IA puede desarrollar capacidades más siniestras, e incluso potencialmente llevarse vidas (por delante)", señaló en su discurso de apertura a los ejecutivos.
El llamado del monarca sobre el desarrollo de la IA
Carlos III recordó a los participantes que su trabajo no consiste únicamente en hacer avanzar la tecnología, sino "garantizar que sirve claramente a la humanidad, a las comunidades y al mundo natural".
La reunión se desarrolló mientras continúa el debate sobre los límites que debería tener el desarrollo de la inteligencia artificial, particularmente ante las advertencias sobre las capacidades que podrían alcanzar estos sistemas.
Líder de Nvidia se deslinda de llamado a ralentizar desarrollo de IA
Sin embargo, no todos los asistentes parecieron alinearse con sus temores. Uno de los más destacados, el CEO de Nvidia, Jensen Huang, pidió que la IA no termine siendo regulada lo mismo que las redes sociales, ya que es "una tecnología" y no "un producto".
Según Huang, el papel de los gobiernos debe consistir en intervenir cuando el desarrollo de la IA "se tuerce", y recordó que ya existen leyes que regulan la salud, el transporte o el entretenimiento -ámbitos donde ya se aplica la IA-, y no hay que obsesionarse con añadir nuevas leyes salvo que sean necesarias.
En cuanto a los sistemas de control de la IA -añadió-, deben hacerse en laboratorios cerrados: "Es ingeniería de la antigua, de la clásica, ni más ni menos, (para) probar los productos antes de ser lanzados al público".
Debate sobre regular y ralentizar la inteligencia artificial
De hecho, Huang se ha unido a Mark Zuckerberg para tomar distancia de los llamamientos de otros "gurús" de la IA, como los líderes de Anthropic, OpenAI y SpaceX, que han pedido ralentizar el desarrollo de esta tecnología.
El debate se ha convertido en uno de los de mayor trascendencia esta semana, en el que ha llegado a intervenir el propio presidente de Estados Unidos, Donad Trump, él también contrario a ralentizar el "boom" de la IA.
Noticias del tema