ChatGPT puede tener revisión humana de conversaciones de usuarios
Las conversaciones de ChatGPT pueden llegar a revisores humanos que evalúan respuestas, incluso cuando contienen información médica, legal o financiera.
Las conversaciones mantenidas con ChatGPT no necesariamente permanecen exclusivamente entre el usuario y la inteligencia artificial. De acuerdo con una investigación basada en documentos analizados por 404 Media, OpenAI cuenta con un sistema de revisión humana para evaluar respuestas y mejorar el funcionamiento de sus modelos.
Cómo funciona la revisión de conversaciones
El sistema identificado como Project Lily permite que contratistas reciban fragmentos de conversaciones y analicen las respuestas generadas por ChatGPT. Los revisores deben resumir la solicitud original y comparar distintas respuestas para determinar cuáles son más útiles.
También deben señalar fragmentos específicos y explicar posibles errores o aspectos que deberían mejorarse. Finalmente, cada respuesta recibe una calificación del 1 al 7, según su calidad.
Los filtros de privacidad tienen limitaciones
OpenAI señala que las conversaciones pasan por filtros destinados a eliminar información personal antes de llegar a los contratistas. Sin embargo, estos mecanismos pueden cometer errores.
Por ello, algunos fragmentos podrían conservar datos sensibles relacionados con salud, asuntos legales, información financiera, relaciones personales o cuestiones laborales. La eliminación del nombre del usuario tampoco garantiza que todo el contenido personal desaparezca.
Cómo evitar que tus chats se utilicen
OpenAI ofrece una configuración para impedir que las nuevas conversaciones sean utilizadas para mejorar sus modelos. Para modificarla, el usuario debe entrar a ChatGPT, abrir Configuración, seleccionar Controles de datos y desactivar “Mejora el modelo para todos”.
Esta modificación aplica a conversaciones futuras y no tiene carácter retroactivo, por lo que no cambia el tratamiento de chats anteriores.
El caso muestra que quienes utilizan ChatGPT para asuntos personales deben considerar que determinadas conversaciones pueden llegar a procesos de revisión humana.
Tecnología: Reuniones falsas surgen como respuesta a la saturación laboral
La saturación de reuniones, correos y chats lleva a empleados a bloquear agendas con encuentros ficticios para recuperar horas de concentración laboral. La constante interrupción durante la jornada laboral ha llevado a algunos trabajadores a recurrir a una estrategia poco -- leer más
Noticias del tema