OpenAI reporta a usuario que planeaba feminicidio usando ChatGPT

La intervención del equipo de OpenAI al detectar mensajes violentos permitió que el FBI detuviera a un hombre que planeaba asesinar a su exnovia.

Un hombre de 25 años identificado como Darren Zhou fue condenado a ocho años de libertad condicional en Florida, Estados Unidos, tras planear el asesinato de su expareja con la asistencia de ChatGPT. La intervención oportuna de OpenAI, que detectó las amenazas y notificó al FBI, evitó que se concretara el ataque.

Monitoreo de OpenAI y actuación del FBI

De acuerdo con registros judiciales del tribunal del condado de Palm Beach, las interacciones en el chatbot comenzaron como desahogo personal tras la ruptura de la relación, pero escalaron hacia intenciones violentas. En sus mensajes, el sujeto detalló planes para atacar a su expareja y familiares, afirmando haber adquirido armas de fuego como un rifle estilo AR-15, una pistola Glock y municiones.

Al identificar el riesgo inminente en las conversaciones, la plataforma OpenAI activó sus protocolos de seguridad y envió la alerta al FBI. La agencia federal canalizó la denuncia al Departamento del Sheriff local para resguardar a la víctima y reunir los elementos de prueba necesarios antes de que se ejecutara la agresión.

Medidas cautelares y sentencia judicial

La resolución judicial dictada el viernes 14 de agosto estableció que el condenado deberá cumplir requisitos estrictos durante su periodo en libertad condicional. Las medidas incluyen el uso de un monitor electrónico durante dos años, la prohibición absoluta de poseer armas y la restricción total de acercamiento a la víctima.

Asimismo, la sentencia obliga a la realización de tratamientos psicológicos obligatorios y programas de intervención para agresores. El caso destaca a nivel internacional por ser un antecedente donde los mecanismos de seguridad de herramientas informáticas previnieron de forma directa un intento de feminicidio.

Noticias del tema