Proyecto de Milei sobre IA genera cuestionamientos jurídicos y éticos

La propuesta para habilitar sociedades operadas por inteligencia artificial sin responsables humanos genera debate sobre responsabilidad legal, transparencia y protección de los afectados. 

El proyecto impulsado por el gobierno de Javier Milei para habilitar sociedades gestionadas por inteligencia artificial sin responsables humanos identificados ha generado cuestionamientos entre especialistas, quienes advierten posibles desafíos en materia de responsabilidad legal, transparencia y protección jurídica.

La propuesta de sociedades automatizadas

La iniciativa busca permitir estructuras empresariales capaces de operar mediante sistemas de inteligencia artificial y mecanismos automatizados, inspirados en modelos conocidos como organizaciones autónomas descentralizadas o DAO.

Según explicó Javier Pallero, estas organizaciones funcionan mediante contratos inteligentes y herramientas tecnológicas que pueden ejecutar acciones sin intervención humana constante.

No obstante, el especialista señaló que actualmente no existe una figura societaria ampliamente reconocida que permita operar en el sistema financiero tradicional sin la participación de personas responsables legalmente.

El debate sobre la responsabilidad legal

Uno de los principales puntos de discusión gira en torno a la responsabilidad ante posibles delitos, fraudes o daños ocasionados por una entidad gestionada mediante inteligencia artificial.

Pallero advirtió que una estructura completamente automatizada podría limitar la responsabilidad al patrimonio de la organización, sin que exista una persona física identificable que responda por posibles conductas ilícitas.

Las palabras clave de este debate incluyen: inteligencia artificial, regulación, transparencia, responsabilidad, tecnología.

De acuerdo con el analista, la existencia de responsables humanos constituye un elemento fundamental para garantizar mecanismos de control y rendición de cuentas dentro del sistema jurídico.

Los desafíos de la inteligencia artificial autónoma

Otro aspecto señalado por los especialistas es la dificultad para auditar los procesos internos de algunos sistemas avanzados de inteligencia artificial.

Este fenómeno, conocido como el problema de la "caja negra", se refiere a la complejidad para comprender y rastrear cómo determinados algoritmos toman decisiones o generan resultados.

Según Pallero, la actualización constante de estos sistemas puede dificultar la trazabilidad de acciones y decisiones, especialmente cuando no existen supervisores humanos claramente identificados.

Regulación y confianza en los sistemas digitales

El debate también se extiende al papel de la regulación en el desarrollo de tecnologías emergentes.

El especialista consideró que sectores sensibles como la salud, las finanzas, la privacidad y la gestión de datos personales requieren marcos normativos que permitan establecer responsabilidades y mecanismos de supervisión.

Asimismo, sostuvo que la confianza pública en sistemas automatizados depende en gran medida de la existencia de procesos verificables y de personas o instituciones capaces de responder ante posibles afectaciones.

Un debate con impacto internacional

La propuesta trascendió el ámbito local y despertó reacciones de especialistas internacionales, entre ellos el historiador Yuval Noah Harari, quien expresó preocupaciones sobre la posibilidad de que sistemas de inteligencia artificial operen como entidades empresariales sin responsabilidades humanas directas.

Mientras continúa la discusión, expertos en tecnología, derecho y políticas digitales coinciden en que el avance de la inteligencia artificial plantea nuevos desafíos para los sistemas regulatorios y para la definición de mecanismos que garanticen transparencia, supervisión y protección jurídica.

Noticias del tema