— Agencias 20/10/2026
El pionero de la inteligencia artificial advirtió que los sistemas avanzados podrían superar la comprensión humana y dificultar la verificación de sus respuestas.
Geoffrey Hinton, premio Nobel de Física y uno de los investigadores fundamentales en el desarrollo de la inteligencia artificial, advirtió que los seres humanos podrían llegar a convivir con sistemas capaces de comprender conceptos que estén fuera de su alcance. Durante el festival Starmus, celebrado en Tenerife, también cuestionó la idea de que las llamadas alucinaciones de la IA demuestren necesariamente una falta de comprensión.
Hinton advierte sobre los límites de la comprensión humana
“No entenderemos a la IA, al igual que las ratas no entienden los números”, planteó Hinton durante una conversación sobre tecnología, conocimiento y verdad, en la que participaron el psicólogo cognitivo Steven Pinker y Christiana Figueres, exresponsable de Naciones Unidas para el clima.
El investigador utilizó la comparación para explicar que la inteligencia artificial podría desarrollar capacidades que las personas no estén en condiciones de comprender o evaluar por completo.
Uno de los principales problemas, según el escenario que describió, sería determinar si las respuestas de estos sistemas son correctas cuando los usuarios carezcan de los conocimientos necesarios para comprobarlas.
La discusión fue moderada por Garik Israelian, astrofísico y fundador de Starmus, y abordó los desafíos de distinguir entre información verdadera, errores y afirmaciones que coinciden con las creencias de quienes las reciben.
Por qué considera que se subestimó a la inteligencia artificial
Hinton sostuvo que las capacidades de los grandes modelos de lenguaje fueron subestimadas durante su desarrollo. Estos sistemas están diseñados para procesar y generar texto, responder preguntas y reconocer patrones a partir de grandes cantidades de información.
El científico también cuestionó las posiciones de algunos especialistas que dudaron de la capacidad de estas herramientas para producir lenguaje sofisticado. Entre los ejemplos mencionó al lingüista Noam Chomsky, cuyas posturas consideró insuficientes para explicar los avances observados en los modelos de IA.
La comparación con otros animales apunta a una diferencia en las capacidades cognitivas: así como una rata no puede comprender conceptos matemáticos abstractos como los números primos, los humanos podrían encontrar límites ante sistemas artificiales mucho más avanzados.
Las alucinaciones no demostrarían que la IA carece de comprensión
Otro punto central de la intervención fue el papel de las llamadas alucinaciones de la inteligencia artificial, término utilizado para describir respuestas falsas, inventadas o incorrectas que un sistema presenta como si fueran verdaderas.
Para Hinton, estos errores no prueban por sí solos que las máquinas carezcan de comprensión. El investigador comparó ese fenómeno con la tendencia humana a reconstruir recuerdos o confabular sobre situaciones que las personas creen recordar correctamente.
Sin embargo, la analogía no elimina los riesgos de confiar en información equivocada. Las respuestas de un sistema de IA pueden contener errores incluso cuando están redactadas con seguridad y coherencia.
Por ello, la posibilidad de que una máquina desarrolle capacidades superiores plantea una pregunta importante: cómo verificar sus conclusiones cuando las personas no puedan reproducir por sí mismas el razonamiento que las originó.
Steven Pinker destaca la importancia de comprobar las respuestas
Durante el encuentro, Steven Pinker coincidió en que las capacidades de los grandes modelos de lenguaje y sus implicaciones para el estudio de la cognición humana fueron subestimadas.
No obstante, destacó que la utilidad de estas herramientas dependerá de que sus respuestas sean correctas y puedan someterse a mecanismos de comprobación, en lugar de limitarse a generar interacciones convincentes con los usuarios.
La distinción resulta relevante porque una respuesta bien redactada no necesariamente es verdadera. En ámbitos como la ciencia, la educación, la salud o las finanzas, verificar la información continúa siendo esencial para evitar decisiones basadas en errores.
La discusión sobre la verdad y la incertidumbre
Christiana Figueres introdujo una perspectiva distinta al plantear que las personas deben aprender a convivir con la incertidumbre y cuestionar aquello que consideran verdadero, en vez de buscar certezas absolutas.
Hinton discrepó de esa postura y defendió la existencia de una verdad objetiva, independiente de las diferencias culturales o de las interpretaciones individuales.
El investigador sostuvo que, una vez definidos los términos de una afirmación, determinar si es verdadera no debería depender únicamente de opiniones. También distinguió entre la capacidad de influir en lo que una sociedad considera cierto y la posibilidad de modificar la verdad misma.
El intercambio puso sobre la mesa uno de los desafíos que acompañan al avance de la inteligencia artificial: cómo evaluar sus respuestas, reconocer sus limitaciones y mantener criterios de comprobación en un entorno donde las máquinas podrían adquirir capacidades difíciles de interpretar para las personas.
Instala la nueva aplicación de El Tiempo MX