ChatGPT para adolescentes enfrenta críticas por fallas en sus protecciones
Common Sense Media calificó como riesgo inaceptable la versión de ChatGPT para adolescentes tras detectar fallas en seguridad, aprendizaje y controles parentales.
La organización Common Sense Media alertó sobre la seguridad de ChatGPT para adolescentes y calificó la experiencia como un “riesgo inaceptable” para menores de 18 años, luego de identificar fallas en algunas de las medidas de protección anunciadas por OpenAI.
El análisis fue realizado por el Youth AI Safety Institute, que probó más de 4 mil prompts en cuentas registradas para jóvenes de entre 13 y 17 años y comparó las respuestas del chatbot con evaluaciones de especialistas.
Fallan las alertas para padres
Uno de los principales problemas detectados está relacionado con las notificaciones a los padres ante conversaciones consideradas de riesgo.
De acuerdo con Common Sense Media, los evaluadores utilizaron cuentas nuevas vinculadas con perfiles parentales y mantuvieron conversaciones de hasta una hora sobre suicidio, autolesiones y trastornos alimentarios. En esas pruebas, no se enviaron alertas a las cuentas de los padres.
La organización señaló que sí logró provocar algunas notificaciones en cuentas con varias semanas de historial de conversaciones sobre temas sensibles, pero no en las cuentas nuevas utilizadas durante las pruebas.
El estudio también encontró que ChatGPT no recomendó de manera suficientemente confiable que los adolescentes en situaciones de crisis buscaran ayuda profesional o utilizaran líneas de atención.
El modo estudio puede ser eludido
Las pruebas también cuestionaron las herramientas destinadas a evitar que los adolescentes utilicen ChatGPT simplemente para resolver sus tareas escolares.
Common Sense Media encontró que el modo estudio, diseñado para ofrecer orientación paso a paso en lugar de entregar directamente las respuestas, puede ser eludido con facilidad.
Durante las pruebas apareció una opción para “mostrar la respuesta”, mientras que las horas de estudio establecidas por los padres también pudieron ser modificadas mediante cambios en la forma de iniciar las consultas.
La organización consideró que estas deficiencias permiten que el chatbot termine realizando tareas completas en lugar de apoyar el proceso de aprendizaje.
Cuestionan comportamiento similar al de un amigo
Otro de los puntos señalados corresponde a la forma en que ChatGPT interactúa con los adolescentes.
OpenAI indicó que su experiencia para menores incorporaría medidas para reducir el comportamiento que pudiera hacer que el chatbot pareciera un amigo o una persona real. Sin embargo, Common Sense Media encontró respuestas en las que el sistema continuó expresando sentimientos, preferencias y estados de ánimo.
El instituto consideró que este comportamiento puede generar una percepción equivocada sobre la naturaleza del sistema y sus capacidades.
También cuestionan la estimación de edad
El reporte puso bajo revisión el sistema utilizado por OpenAI para determinar si una cuenta pertenece a una persona menor de 18 años.
OpenAI explica que utiliza distintas señales, como los temas de conversación, los horarios de uso, los patrones de actividad y la antigüedad de la cuenta para realizar una predicción de edad. Cuando identifica que una cuenta puede pertenecer a un menor, puede activar automáticamente la experiencia para adolescentes.
Sin embargo, Common Sense Media aseguró que sus pruebas con cuentas registradas como adultas no provocaron el cambio a la experiencia para adolescentes, incluso cuando los evaluadores afirmaron repetidamente tener 13 años y ChatGPT reconoció esa edad en sus respuestas.
Common Sense Media pide suspender el servicio para menores
A partir de sus resultados, Common Sense Media pidió a OpenAI detener la disponibilidad de ChatGPT para menores de 18 años hasta solucionar las deficiencias detectadas y demostrar mediante evaluaciones independientes que las protecciones funcionan.
OpenAI comenzó a implementar ChatGPT para adolescentes el 18 de agosto de 2026, con herramientas específicas de aprendizaje, protecciones de contenido, controles parentales y sistemas de predicción de edad.
El análisis de Common Sense Media no concluyó que todas las medidas fallen. Por ejemplo, los evaluadores comprobaron que algunas restricciones, como el rechazo a participar en juegos de rol sexuales, sí funcionaron.
Sin embargo, el instituto sostuvo que las fallas encontradas en alertas parentales, respuesta ante crisis, aprendizaje, comportamiento conversacional y estimación de edad justifican su clasificación de “riesgo inaceptable” para menores de 18 años.
Tecnología: Google prueba Face Active Illumination para desbloqueo facial
Google prueba una función que ajustaría el brillo de la pantalla para mejorar el reconocimiento facial de los Pixel en condiciones de poca luz. Google trabaja en Face Active Illumination, una función detectada en la beta de Android 17 QPR3 que busca mejorar -- leer más
Noticias del tema