Según un análisis realizado por la investigadora independiente Genevieve Oh, que se compartió con AP, este año se publicaron en línea más de 143 mil nuevos videos deepfake
Una madre y su hija de 14 años están abogando por una mejor protección para las víctimas después de que circularan en una escuela secundaria de Nueva Jersey imágenes de desnudos de la adolescente y otras compañeras de clase generadas por Inteligencia Artificial (AI).
Mientras tanto, al otro lado del país, los funcionarios están investigando un incidente que involucra a un adolescente que supuestamente usó inteligencia artificial para crear y distribuir imágenes similares de otros estudiantes (también chicas adolescentes) que asisten a una escuela secundaria en los suburbios de Seattle, Washington.
Los inquietantes casos han puesto de relieve una vez más el material explícito generado por IA que daña abrumadoramente a mujeres y niños y está proliferando en línea a un ritmo sin precedentes.
Según un análisis realizado por la investigadora independiente Genevieve Oh que se compartió con Associated Press, este año se publicaron en línea más de 143 mil nuevos videos deepfake, una cifra que supera a todos los demás años combinados.
Desesperadas por encontrar soluciones, las familias afectadas están presionando a los legisladores para que implementen salvaguardias sólidas para las víctimas cuyas imágenes son manipuladas utilizando nuevos modelos de inteligencia artificial o la gran cantidad de aplicaciones y sitios web que anuncian abiertamente sus servicios. Los defensores y algunos expertos legales también están pidiendo una regulación federal que pueda brindar protecciones uniformes en todo el país y enviar un mensaje contundente a los perpetradores actuales y potenciales.
"Luchamos por nuestros hijos"
“Estamos luchando por nuestros hijos”, dijo Dorota Mani, cuya hija fue una de las víctimas en Westfield, un suburbio de Nueva Jersey a las afueras de la ciudad de Nueva York. “No son republicanos ni demócratas. No les importa. Solo quieren ser amados y quieren estar a salvo”.
El problema con los deepfakes no es nuevo, pero los expertos dicen que está empeorando a medida que la tecnología para producirlos se vuelve más disponible y más fácil de usar. Los investigadores han estado haciendo sonar la alarma este año sobre la explosión de material de abuso sexual infantil generado por IA utilizando representaciones de víctimas reales o personajes virtuales. En junio, el FBI advirtió que seguía recibiendo informes de víctimas, tanto menores como adultos, cuyas fotos o videos se utilizaron para crear contenido explícito que se compartió en línea.
Varios estados han aprobado sus propias leyes a lo largo de los años para tratar de combatir el problema, pero su alcance varía. Texas, Minnesota y Nueva York aprobaron leyes este año que penalizan la pornografía deepfake no consensuada, uniéndose a Virginia, Georgia y Hawái, que ya tenían leyes vigentes. Algunos estados, como California e Illinois, sólo han dado a las víctimas la posibilidad de demandar a los perpetradores por daños y perjuicios en un tribunal civil, lo que también permiten Nueva York y Minnesota.
Algunos otros estados están considerando su propia legislación, incluida Nueva Jersey, donde actualmente se está preparando un proyecto de ley para prohibir la pornografía deepfake e imponer sanciones (ya sea pena de cárcel, una multa o ambas) a quienes la difundan.
La senadora estatal Kristin Corrado, una republicana que presentó la legislación a principios de este año, dijo que decidió involucrarse después de leer un artículo sobre personas que intentaban evadir las leyes de pornografía de venganza utilizando la imagen de su ex pareja para generar pornografía deepfake.
“Simplemente, teníamos la sensación de que iba a ocurrir un incidente”, dijo Corrado.
Westfield pone el tema en el centro de la atención
El proyecto de ley ha languidecido durante algunos meses, pero hay muchas posibilidades de que se apruebe, dijo, especialmente con la atención que se ha puesto sobre el tema debido a Westfield.
El evento de Westfield tuvo lugar este verano y se informó a la escuela secundaria el 20 de octubre, dijo la portavoz de Westfield High School, Mary Ann McGann, en un comunicado. McGann no proporcionó detalles sobre cómo se difundieron las imágenes generadas por IA, pero Mani, la madre de una de las niñas, dijo que recibió una llamada de la escuela informándole que sus fotografías desnudas fueron creadas usando los rostros de algunas estudiantes y luego circularon entre un grupo de amigos en la aplicación de redes sociales Snapchat.
La escuela no ha confirmado ninguna acción disciplinaria, citando la confidencialidad en asuntos que involucran a los estudiantes. La policía de Westfield y la oficina del fiscal del condado de Union, quienes fueron notificadas, no respondieron a las solicitudes de comentarios.
No han trascendido detalles sobre el incidente en el estado de Washington, que ocurrió en octubre y está siendo investigado por la policía. Paula Schwan, jefa del Departamento de Policía de Issaquah, dijo que obtuvieron múltiples órdenes de registro y señaló que la información que tienen podría estar “sujeta a cambios” a medida que continúa la investigación. Cuando se le contactó para hacer comentarios, el Distrito Escolar de Issaquah dijo que no podía discutir los detalles debido a la investigación, pero declaró que cualquier forma de intimidación, acoso o maltrato entre los estudiantes es “completamente inaceptable”.
Si los funcionarios deciden procesar el incidente en Nueva Jersey, es posible que ya se aplique la ley estatal actual que prohíbe la explotación sexual de menores, dijo Mary Anne Franks, profesora de derecho en la Universidad George Washington que dirige Cyber Civil Rights Initiative, una organización que tiene como objetivo combatir los abusos en línea. Pero esas protecciones no se extienden a los adultos que podrían encontrarse en una situación similar, afirmó.
¿Soluciones?
La mejor solución, dijo Franks, vendría de una ley federal que pueda brindar protecciones consistentes en todo el país y penalizar a las organizaciones dudosas que se benefician de productos y aplicaciones que permiten fácilmente a cualquiera realizar deepfakes. Dijo que eso también podría enviar una fuerte señal a los menores que podrían crear imágenes de otros niños de manera impulsiva.
El presidente Joe Biden firmó una orden ejecutiva en octubre que, entre otras cosas, pedía prohibir el uso de IA generativa para producir material de abuso sexual infantil o “imágenes íntimas de individuos reales” no consensuadas. La orden también ordena al gobierno federal que emita directrices para etiquetar y marcar con agua el contenido generado por IA para ayudar a diferenciar entre material auténtico y creado por software.
Citando el incidente de Westfield, el representante estadounidense Tom Kean Jr., un republicano que representa a la ciudad, presentó un proyecto de ley el lunes que requeriría que los desarrolladores hicieran divulgaciones sobre el contenido generado por IA. Entre otros esfuerzos, otro proyecto de ley federal presentado por el representante estadounidense Joe Morelle, un demócrata de Nueva York, haría ilegal compartir imágenes pornográficas ultrafalsas en línea. Pero no ha avanzado en meses debido al estancamiento del Congreso.
Algunos abogan por la cautela (incluida la Unión Estadounidense por las Libertades Civiles, la Electronic Frontier Foundation y The Media Coalition, una organización que trabaja para grupos comerciales que representan a editores, estudios cinematográficos y otros) y dicen que se necesita una cuidadosa consideración para evitar propuestas que puedan ir en contra de la Primera Enmienda.
“Algunas preocupaciones sobre los deepfakes abusivos pueden abordarse mediante las leyes existentes sobre acoso cibernético”, dijo Joe Johnson, abogado de la ACLU de Nueva Jersey. "Ya sea federal o estatal, debe haber una conversación sustancial y aportes de las partes interesadas para garantizar que cualquier proyecto de ley no sea demasiado amplio y aborde el problema planteado".
Mani dijo que su hija creó un sitio web y una organización benéfica con el objetivo de ayudar a las víctimas de la IA. También han estado en conversaciones con legisladores estatales que impulsan el proyecto de ley de Nueva Jersey y están planeando un viaje a Washington para abogar por más protecciones.
"No todos los niños, niños o niñas, tendrán el sistema de apoyo para afrontar este problema", afirmó Mani. "Y es posible que no vean la luz al final del túnel".