La IA puede usarse para etiquetar, categorizar y distribuir automáticamente contenido pornográfico en línea.
Legisladores de Morena en Coahuila proponen prisión y multas para quienes utilicen Inteligencia Artificial para crear contenido pornográfico involucrando a personas que no dieron su consentimiento para su creación. Esto puede dar lugar a actos de extorsión, difamación y violación de la privacidad.
La IA es la combinación de algoritmos diseñados para crear máquinas con habilidades similares a las humanas. Es una tecnología que trae beneficios pero también riesgos, como la creación de contenidos realistas pero inventados, particularmente en el campo pornográfico. La diputada Teresa de Jesús Meraz García señaló que este contenido parece auténtico pero en realidad es ficticio.
La IA se puede utilizar para hacerse pasar por alguien colocando su cara sobre el cuerpo de otra persona en actividades sexualmente explícitas. Esto daña la reputación de las personas.
La IA también se puede emplear para etiquetar, categorizar y distribuir automáticamente contenido pornográfico en línea, lo que aumenta la accesibilidad de material inapropiado, especialmente para menores.
Además, la IA se utiliza para personalizar el contenido que se muestra a los usuarios en función de sus preferencias y comportamientos previos, lo que genera adicción y atracción hacia la proliferación de la inteligencia artificial.
Por ello, proponen agregar los artículos 237 Bis, 237 Bis 1 y 237 Bis 2 relativos a “Actividades tecnológicas que atentan contra la dignidad humana”.
En consecuencia, se aplicará pena de prisión de 6 a 8 años y hasta 500 días multa a quien, directa o indirectamente, utilice Internet y tecnologías informáticas para alterar digitalmente el rostro de una persona en imágenes, videos y/o audios con el intención de hacerlos pasar por genuinos. Esto también incluye dibujar, modificar o adaptar digitalmente o por computadora fotografías, videos o imágenes.
Esto se aplica cuando se representan personas menores de 18 años, personas incapaces de comprender el significado del acto, o personas incapaces de resistirlo, cometiendo, realizando o participando en delitos. También se extiende a quienes representen, dibujen, exhiban, ilustren o utilicen fotografías de los órganos sexuales de un niño o adolescente con fines lascivos.
Asimismo, se aplican sanciones a quien reproduzca, utilice, almacene, posea, distribuya, venda, compre, arriende, exhiba, publicite, transmita, importe, exporte, cree, represente o produzca el material antes mencionado a través de cualquier medio. Se confiscarán los objetos, instrumentos y productos relacionados con el delito.
La pena se aumentará hasta en la mitad si la víctima es menor de 18 años o incapaz de comprender el significado del acto o resistirse a él.