— Agencias 17/08/2026
Ravi Iyer explicó cómo los algoritmos seleccionan contenido y alertó sobre sus riesgos para menores.
El psicólogo social y experto en tecnología Ravi Iyer alertó durante la conferencia matutina de la presidenta Claudia Sheinbaum sobre los riesgos que enfrentan niños y adolescentes en las redes sociales. Explicó que detrás de plataformas como Facebook e Instagram existen algoritmos capaces de analizar el comportamiento de los usuarios para decidir qué contenido mostrarles, una tecnología diseñada para personalizar la experiencia que también puede favorecer la exposición a material sexual, violento o peligroso.
¿Qué es un algoritmo?
Un algoritmo es un conjunto de instrucciones que permite a un sistema informático procesar información y realizar determinadas tareas o tomar decisiones. En una red social, el algoritmo analiza grandes cantidades de datos para determinar qué publicaciones, fotografías, videos o cuentas aparecen frente a cada usuario y en qué orden.
Esto significa que cuando una persona abre una aplicación, no necesariamente encuentra el mismo contenido que otra. La plataforma utiliza información sobre la actividad de cada usuario para construir una experiencia personalizada.
¿Cómo funciona un algoritmo en las redes sociales?
Cada vez que una persona utiliza una plataforma genera información mediante sus acciones. El sistema puede registrar qué videos observa, cuánto tiempo permanece frente a ellos, cuáles vuelve a reproducir, qué publicaciones marca con “me gusta”, qué cuentas sigue, qué contenido comparte, qué palabras busca e incluso qué publicaciones decide ignorar.
Con toda esa información, el algoritmo intenta identificar patrones de comportamiento. Si una persona observa repetidamente videos relacionados con un determinado tema, la plataforma puede interpretar que existe interés y comenzar a recomendar contenidos similares.
El algoritmo no necesita que el usuario escriba directamente “quiero ver esto”. Puede utilizar sus acciones como señales para realizar una predicción sobre qué contenido podría mantener su atención.
¿Cómo aprende el algoritmo lo que le interesa a una persona?
El sistema compara constantemente las acciones del usuario con los resultados que obtiene de ellas. Si una persona permanece varios segundos mirando un video, vuelve a reproducirlo o interactúa con él, esas acciones pueden convertirse en señales para futuras recomendaciones.
Con el paso del tiempo, el sistema puede construir un perfil basado en los intereses y hábitos digitales del usuario. Ese perfil puede cambiar constantemente porque las recomendaciones se actualizan conforme aparecen nuevas interacciones.
Por esta razón, dos personas que siguen las mismas cuentas pueden terminar observando contenidos completamente diferentes.
¿Para qué utilizan las redes sociales los algoritmos?
Uno de los principales objetivos de estos sistemas es conseguir que los usuarios encuentren contenido que resulte atractivo y permanezcan más tiempo dentro de la plataforma.
Para lograrlo, las redes sociales pueden utilizar recomendaciones personalizadas, reproducción automática, desplazamiento infinito, notificaciones y otros mecanismos que facilitan que una persona continúe consumiendo contenido sin necesidad de detenerse a buscarlo.
El problema señalado por Iyer es que un sistema diseñado para aumentar la interacción puede terminar priorizando aquello que genera una reacción fuerte, incluso cuando ese contenido puede ser perjudicial para determinados usuarios.
¿Cómo puede un menor recibir contenido que nunca buscó?
Un menor puede comenzar viendo contenido aparentemente inofensivo y, después de varias interacciones, recibir recomendaciones relacionadas con temas cada vez más específicos.
Por ejemplo, una persona puede comenzar viendo videos sobre ejercicio. Si permanece mucho tiempo observándolos, interactúa con ellos y continúa viendo publicaciones similares, el sistema puede interpretar que ese contenido genera interés y recomendar materiales relacionados.
El problema es que la recomendación puede avanzar hacia contenidos que el usuario no buscó directamente. El algoritmo no comprende necesariamente el contenido de la misma manera que una persona ni puede determinar por sí solo si una publicación es apropiada para un menor.
¿Por qué los menores pueden estar más expuestos?
Los niños y adolescentes pueden encontrarse en una etapa particularmente vulnerable frente a mecanismos diseñados para captar y mantener la atención.
Iyer presentó durante la conferencia datos de encuestas realizadas en Estados Unidos. Según las cifras citadas, 70 por ciento de los adolescentes dijo sentirse manipulado, mientras que 45 por ciento de las personas de entre 13 y 17 años señaló que considera que pasa demasiado tiempo en redes sociales.
Además, 45 por ciento afirmó que el uso de estas plataformas afecta su sueño y 40 por ciento señaló consecuencias negativas sobre su productividad.
El especialista sostuvo que estas experiencias no son exclusivas de Estados Unidos y que existen señales similares en otros países.
¿Los algoritmos pueden mostrar contenido sexual a menores?
Durante su intervención, Iyer citó una investigación interna de Meta presentada como parte de un litigio en Nuevo México.
De acuerdo con los datos expuestos, 13 por ciento de los usuarios de Instagram de entre 13 y 15 años había recibido alguna insinuación sexual no deseada durante los siete días anteriores a la encuesta.
También señaló que 19.2 por ciento de los niños de entre 13 y 15 años reportó haber visto desnudos o contenido sexual no solicitado durante una semana.
El especialista enfatizó que la preocupación está relacionada precisamente con el carácter no solicitado de este material, ya que los menores pueden encontrarse con él mediante los sistemas de recomendación.
¿También pueden recomendar contenido violento o peligroso?
La exposición no se limita al contenido sexual. Iyer citó una encuesta de la Comisión de Seguridad Digital de Australia realizada entre más de 3 mil niños de 10 a 17 años.
Los resultados que presentó muestran que 47 por ciento había visto comentarios ofensivos o sexistas contra niñas y mujeres, mientras que otro 47 por ciento había observado videos de peleas. Además, 46 por ciento señaló haber visto retos peligrosos en Internet.
Estos datos fueron utilizados por el especialista para explicar que el problema puede extenderse a diferentes tipos de contenido que resultan perjudiciales para los menores.
¿Qué significa que un algoritmo busque aumentar la interacción?
Cuando se habla de que una plataforma optimiza la interacción, significa que el sistema busca identificar qué elementos provocan que los usuarios continúen utilizando la aplicación.
El tiempo que una persona permanece conectada, los videos que reproduce, las publicaciones con las que interactúa y la frecuencia con la que regresa pueden convertirse en señales utilizadas para modificar sus recomendaciones.
Por eso, una plataforma puede mostrar continuamente contenidos similares cuando detecta que determinados temas mantienen la atención del usuario.
Iyer cuestionó que estos mecanismos puedan generar incentivos para favorecer contenidos relacionados con sexualización, apuestas, odio o conductas peligrosas cuando ese material produce altos niveles de interacción.
¿El algoritmo decide por sí mismo hacer daño?
No. Un algoritmo no tiene intenciones propias ni comprende una situación como lo haría una persona. Se trata de un sistema que ejecuta instrucciones y utiliza criterios establecidos por quienes diseñan y operan la plataforma.
La discusión planteada por Iyer se centra en los objetivos con los que son diseñados esos sistemas y en las consecuencias que pueden producir cuando la prioridad es aumentar la interacción o el tiempo de permanencia.
Por ello, el debate no solamente consiste en determinar quién publica contenido dañino, sino también en analizar cómo la plataforma lo distribuye, a quién se lo recomienda y qué mecanismos utiliza para mantener la atención de los usuarios.
¿Qué medidas se han planteado para proteger a los menores?
Durante su exposición, Iyer también habló sobre una sentencia contra Meta en Nuevo México, donde se establecieron medidas relacionadas con la protección de niños y adolescentes.
Entre las disposiciones mencionadas se encuentra el fortalecimiento de la verificación de edad, así como mantener privadas por defecto las cuentas de adolescentes y ocultar el conteo público de “likes” en cuentas de menores de 18 años.
También se planteó desactivar las notificaciones durante la noche y el horario escolar, establecer límites al tiempo de uso de Facebook e Instagram y evitar que adultos sin relación con menores puedan recomendar sus cuentas o enviarles mensajes.
La resolución también contempla impedir que menores de 18 años tengan intercambios románticos o sexualizados con chatbots de Meta.
¿Por qué los algoritmos son importantes en el debate sobre seguridad digital?
Los algoritmos se han convertido en una parte fundamental de la experiencia en redes sociales. Actualmente, lo que una persona encuentra al abrir una plataforma puede depender en gran medida de los sistemas automatizados que analizan su comportamiento y seleccionan qué contenido mostrarle.
Por ello, la protección de niños y adolescentes no depende únicamente de controlar lo que publican los usuarios. También requiere analizar cómo funcionan los sistemas de recomendación, qué datos utilizan, qué objetivos persiguen y qué mecanismos existen para impedir que los menores sean expuestos a contenido sexual, violento o peligroso.
La advertencia de Iyer coloca así el funcionamiento de los algoritmos en el centro de la discusión sobre el uso de redes sociales por menores y sobre la responsabilidad de las empresas tecnológicas en el diseño de sus plataformas.
Instala la nueva aplicación de El Tiempo MX