A veces, los elementos que emplean la Inteligencia artificial (IA) en su funcionamiento no son del todo efectivos. O pueden cometer errores llamativos. Esto es precisamente lo que sufrió una astrónoma británica. A mediados de agosto ella subió a su cuenta de Twitter un breve video de un meteorito y esa imagen científica fue catalogada por los moderadores automáticos de esa red social como “contenido íntimo”. De modo que la cuenta de la mujer fue bloqueada y recién pudo recuperarla tres meses después, y gracias a la intermediación de un medio de comunicación de Gran Bretaña.
Mary McIntyre es el nombre de esta astrónoma y divulgadora científica del condado de Oxfordshire que, en su labor como difusora de su disciplina, subió a Twitter el 13 de agosto pasado una imagen en la que podía vislumbrarse, en el fondo de un firmamento de un azul oscuro, la aparición de un meteorito correspondiente al fenómeno astronómico conocido como “lluvia de Perseidas”.
“Aquí está el rastro de ionización de una bola de fuego de las Perseidas”, escribió la científica en el tuit, en el que añadía la hora y el día en que el fenómeno había ocurrido en el cielo de Oxforshire. “¡Visualmente fue épico!”, agregaba en el texto y luego precisaba que el video estaba realizado con “la bola de fuego más siete imágenes posteriores”.
Lo que se podía visualizar en este video era la imagen de una especie de línea blanca luminosa con un pequeño bulto también blanco y un poco más brillante que atravesaba el cielo en diagonal. Pero de alguna manera, esta clara “bola de fuego” fue entendida desde algún receptor automático de Twitter como una imagen para adultos. “Contendido íntimo”, según aclaró luego la científica.
Es difícil imaginar cómo una línea blanca contra un fondo oscuro pudo interpretarse como una imagen relacionada con el mundo del contenido para adultos, pero eso fue lo que ocurrió.
El bloqueo de la cuenta
La mujer contó en una entrevista con la BBC que su cuenta fue bloqueada de inmediato a causa de lo que captó la inteligencia artificial de la red social. La única opción con la que contaba para recuperarla esa borrar su tuit. Pero McIntyre entendió que, si hacía lo que le pedía la compañía -que entonces no había sido comprada por Elon Musk-, estaría admitiendo que había infringido las reglas de Twitter.
“Es una locura. Realmente no quiero que quede en mi registro que estuve compartiendo material pornográfico cuando no lo he hecho”, dijo al mencionado medio británico sobre su negativa a borrar el tuit.
Entonces, el bloqueo para la científica, que iba a durar tan solo 12 horas si borraba ese material, se prolongó por tres meses y la mujer ya no sabía qué más hacer para recuperar lo que le pertenecía. Le fue imposible comunicarse con ninguna persona de la empresa. Lo paradójico fue que la imagen de supuesto contenido pornográfico, así como también el resto de los posteos de la astrónoma, continuaban en línea. Pero ella no podía entrar a su cuenta.
Finalmente, y luego de que la BBC diera a conocer la situación de McIntyre a nivel planetario, la mujer pudo recuperar la cuenta. Pero ya habían pasado más de tres meses.
Así fue como el pasado 17 de noviembre, con una ostensible alegría, la astrónoma y divulgadora regresó a tener control de su cuenta y tuiteó: “¡Ya estoy de vuelta! Después de tres meses de estar bloqueada debido a que mi video del meteorito Perseid fue marcado como “contenido íntimo”. Y no podía recuperar mi cuenta a menos que admitiera haber infringido las reglas. Muchas gracias a la BBC y a todos los que me estuvieron dando su apoyo”.
En su entrevista la mujer contó también que otros colegas suyos habían compartido la misma imagen, y sin tener consecuencias. En pleno bloqueo, ella explicó con mayor detalle por qué no quería eliminar el supuesto contenido pornográfico. Dijo que le preocupaba que quedara registrado que ella había cometido un delito menor -que fue inexistente-, algo que afectaría parte de su trabajo, que es el de divulgar la astronomía a niños en edad escolar.
Ryan Vaughan es un meteorólogo de los Estados Unidos que publicó un video de máquinas cosechadoras en pleno funcionamiento en un campo durante la noche. Sus imágenes también fueron detectadas como de contenido íntimo y al hombre lo sancionaron con el bloqueo del acceso a su cuenta de Twitter.
A diferencia de McIntyre, este meteorólogo aceptó borrar el tuit, con lo que falsamente acató el hecho de que había violado las reglas de la empresa. Él solo quería recuperar su cuenta. “No es justo y está mal. Esto necesita ser arreglado”, dijo en su momento el hombre del tiempo.
También se registraron informes de cuentas de esta misma red social que se marcaron erróneamente como de menores de 13 años y fueron bloqueadas. En esta falla de Twitter cayeron desde una organización benéfica para familias de personas secuestradas hasta una periodista de la BBC.
Kate Bevan, comentarista de tecnología, señaló al citado medio británico que lo que le ocurrió a la astrónoma de Oxforshire era un claro ejemplo de las limitaciones de las herramientas de inteligencia artificial que utiliza Twitter y también otras redes sociales para moderar los contenidos.
“Las herramientas de IA están bien para decisiones rápidas y sucias, pero muestra que la moderación de contenido a gran escala es realmente difícil, tanto para los humanos como para las herramientas de IA que los respaldan”, señaló la especialista y añadió: “Esto es aún peor cuando no hay humanos disponibles para revisar las malas decisiones de la IA. Aparte de la injusticia, significa que el modelo de IA no recibe retroalimentación, por lo que nunca aprenderá a mejorar”.
Como último ejemplo de este tipo de confusiones que puede darse en las redes, es pertinente mencionar lo que le ocurrió al propietario de una galería de fotos de vida silvestre y paisajes naturales, a quien le bloquearon la cuenta de Facebook porque argumentaron que las imágenes poseían un contenido “abiertamente sexual”.
