Amazon pide lanzar modelos de IA solo cuando estén listos y sean seguros

Amazon sostiene que los nuevos modelos de inteligencia artificial deben superar pruebas rigurosas y contar con medidas de seguridad antes de llegar al público.

Amazon considera que los modelos de inteligencia artificial deben llegar al público únicamente después de superar pruebas rigurosas y contar con medidas de seguridad suficientes.

Tom Parnell, portavoz de Amazon, señaló que la compañía no considera que exista una elección entre el progreso tecnológico y la seguridad. Según su postura, ambos aspectos deben desarrollarse de manera conjunta.

La empresa sostiene que un modelo debe estar preparado antes de ser puesto a disposición de los usuarios y que esto requiere evaluaciones exhaustivas y mecanismos de protección.

Seguridad antes del lanzamiento

La posición de Amazon llega mientras distintas compañías tecnológicas mantienen un debate sobre la velocidad con la que deben desarrollarse y desplegarse los sistemas de IA.

Parnell explicó que existen riesgos cuando los nuevos modelos avanzan sin pruebas suficientes o sin controles adecuados. Por ello, Amazon plantea incorporar la seguridad como parte del proceso de desarrollo y no únicamente como una medida posterior al lanzamiento.

La compañía también considera necesaria la colaboración entre empresas tecnológicas y gobiernos para establecer mecanismos que permitan reducir los riesgos asociados con sistemas cada vez más capaces.

Amazon y los laboratorios de IA

Amazon mantiene vínculos comerciales y financieros con algunos de los principales desarrolladores de inteligencia artificial. La compañía es socia e inversora de OpenAI y Anthropic, además de desarrollar sus propios modelos de lenguaje.

Estos vínculos se relacionan tanto con el desarrollo de sistemas de IA como con la infraestructura necesaria para ejecutarlos.

A través de Amazon Web Services (AWS), la empresa proporciona capacidad de procesamiento, almacenamiento y herramientas para que otras compañías desarrollen y operen sistemas de inteligencia artificial.

Debate sobre el desarrollo de IA

La postura de Amazon se suma a una discusión más amplia dentro de la industria tecnológica sobre cómo equilibrar mayores capacidades de los modelos y medidas de seguridad.

La empresa sostiene que la inteligencia artificial ya ofrece beneficios a sus clientes, pero considera necesario mantener evaluaciones y controles antes de poner nuevos sistemas al alcance del público.

Noticias del tema