Líderes tecnológicos cuestionan a Dario Amodei por sus advertencias sobre la IA
Una reunión en la Casa Blanca evidenció diferencias entre ejecutivos tecnológicos sobre los riesgos de la inteligencia artificial y su regulación.
El director ejecutivo de Anthropic, Dario Amodei, defendió sus advertencias sobre los riesgos de la inteligencia artificial durante una reunión con líderes tecnológicos en la Casa Blanca, donde Jensen Huang, de Nvidia, y Mark Zuckerberg, de Meta, cuestionaron parte de su postura.
Las diferencias surgieron tras el acuerdo sobre inteligencia artificial
El encuentro se realizó el 29 de septiembre de 2026, después de un almuerzo organizado por el presidente de Estados Unidos, Donald Trump, y el presidente de la Cámara de Representantes, Mike Johnson.
Durante la reunión, representantes de algunas de las principales compañías tecnológicas acordaron principios voluntarios para supervisar el desarrollo de sistemas avanzados de inteligencia artificial. El acuerdo contempla controles internos, evaluaciones externas y mecanismos de supervisión corporativa.
Aunque públicamente los participantes mostraron una postura común sobre la importancia de la seguridad, posteriormente surgieron diferencias durante una sesión más reducida en la Sala Roosevelt, de acuerdo con The Wall Street Journal.
Jensen Huang cuestionó las declaraciones públicas de Amodei sobre las capacidades y riesgos de los modelos de IA. Mark Zuckerberg también intervino en la discusión relacionada con la seguridad durante el encuentro, según los reportes publicados sobre la reunión.
Amodei defiende sus advertencias sobre los riesgos de la IA
Amodei ha advertido públicamente sobre la posibilidad de que modelos cada vez más avanzados puedan facilitar ataques informáticos y provocar importantes cambios en el mercado laboral.
En septiembre, el CEO de Anthropic pidió reducir el ritmo de desarrollo de las capacidades de la IA, al advertir sobre posibles riesgos relacionados con sistemas autónomos y ciberseguridad. También señaló que los avances podrían permitir que agentes de IA realicen actividades maliciosas a una escala considerable.
Durante la reunión en Washington, el ejecutivo defendió la necesidad de comunicar de manera transparente las capacidades de estos sistemas y los riesgos que pueden representar.
La posición de Amodei forma parte del debate existente dentro de la industria sobre hasta qué punto las empresas deben establecer límites al desarrollo de modelos avanzados y qué mecanismos deben utilizarse para evaluar sus posibles consecuencias.
Jensen Huang cuestiona el enfoque sobre seguridad
El desacuerdo con Amodei también refleja diferencias entre las empresas que desarrollan modelos de inteligencia artificial y las compañías que proporcionan parte de la infraestructura necesaria para entrenarlos.
Huang, director ejecutivo de Nvidia, ha participado en el impulso de mecanismos de supervisión basados en compromisos de la propia industria.
Durante la reunión en la Casa Blanca, el empresario cuestionó las advertencias públicas de Amodei, mientras el responsable de Anthropic mantuvo su posición sobre la necesidad de explicar los riesgos asociados con el avance de los modelos.
El intercambio dejó expuesta una diferencia de enfoque: por un lado, quienes plantean reforzar las medidas de seguridad a medida que aumentan las capacidades de los modelos; por otro, quienes consideran que los controles deben implementarse sin frenar el desarrollo tecnológico.
La Casa Blanca impulsa controles voluntarios
El desacuerdo ocurrió mientras la administración de Trump impulsa un modelo de autorregulación de la industria tecnológica.
El acuerdo presentado en la Casa Blanca establece que las compañías que desarrollan modelos avanzados implementen controles internos, equipos encargados de verificar su funcionamiento, evaluaciones realizadas por terceros y comités independientes vinculados con sus consejos de administración.
El documento no establece nuevas obligaciones legales federales ni un sistema específico de sanciones. La propuesta plantea que las empresas trabajen de manera conjunta para establecer prácticas de seguridad y evaluar el funcionamiento de sus modelos.
Entre los participantes estuvieron ejecutivos de Anthropic, Nvidia, Meta, OpenAI, Google y xAI, aunque algunas compañías presentes en el encuentro no suscribieron el documento.
El debate sobre la regulación continúa
La reunión mostró que el acuerdo voluntario no elimina las diferencias existentes dentro del sector tecnológico.
Anthropic ha planteado públicamente la necesidad de prestar mayor atención a los riesgos derivados de modelos cada vez más capaces, mientras otros ejecutivos han defendido mecanismos de supervisión que permitan mantener el desarrollo de la tecnología.
El debate también se relaciona con el futuro de la regulación de la inteligencia artificial en Estados Unidos. La Casa Blanca ha impulsado compromisos de carácter voluntario, mientras continúan las discusiones sobre si estos mecanismos serán suficientes o si posteriormente será necesario establecer nuevas normas mediante legislación.
En este contexto, las diferencias entre Amodei, Huang y otros líderes tecnológicos muestran que no existe una posición única dentro de Silicon Valley sobre la velocidad del desarrollo de la IA, los riesgos que deben priorizarse y el papel que deben desempeñar las autoridades.
Tecnología: DoorDash permite pedir comida desde Messages con inteligencia artificial
DoorDash prueba un asistente de inteligencia artificial que permite pedir comida desde Messages, usando historial y preferencias del usuario. Los usuarios de iPhone en Estados Unidos ya pueden solicitar comida a domicilio desde Messages de Apple, gracias a un asistente -- leer más
Noticias del tema