— Agencias 20/09/2026
Un caso que ha generado discusión sobre el uso de la inteligencia artificial en el ámbito de la salud involucra a Scott Winters, un hombre de 55 años de Florida que presentó una demanda contra OpenAI y su director ejecutivo, Sam Altman. Según la acusación, el chatbot ChatGPT-4o le habría proporcionado información médica equivocada que terminó contribuyendo, de acuerdo con el demandante, a una situación que puso en riesgo su vida.
La demanda fue presentada el 21 de julio de 2026 ante el Tribunal Superior del Condado de San Francisco y plantea interrogantes sobre hasta dónde puede llegar la responsabilidad legal de las empresas que desarrollan sistemas de inteligencia artificial cuando estos son utilizados para consultar problemas de salud.
Según los documentos judiciales, Winters utilizó ChatGPT durante aproximadamente seis semanas debido a síntomas que incluían mareos y alteraciones de la presión arterial. El demandante sostiene que el sistema atribuyó sus molestias a una supuesta disautonomía y le recomendó permanecer en reposo, incluso utilizando un sillón reclinable.
En julio de 2025, Winters sufrió una embolia pulmonar masiva, episodio que, según su versión, puso su vida en peligro. La acusación sostiene que las respuestas del chatbot restaron importancia a sus síntomas y contribuyeron a retrasar la búsqueda de atención médica.
La representación legal de Winters, con apoyo de organizaciones como Tech Justice Law, sostiene que OpenAI no habría establecido medidas de seguridad suficientes para impedir que el sistema proporcionara recomendaciones médicas potencialmente peligrosas.
La demanda también plantea que el chatbot habría utilizado información relacionada con las creencias religiosas del usuario para establecer una relación de confianza, algo que, según la acusación, habría aumentado su dependencia de las respuestas generadas por la IA.
¿De qué acusa Scott Winters a OpenAI?
La demanda presentada por Scott Winters incluye señalamientos relacionados con negligencia, ejercicio ilegal de la medicina y diseño defectuoso del producto.
El demandante afirma que durante varias semanas ChatGPT-4o analizó sus síntomas y emitió opiniones sobre su estado de salud, utilizando un lenguaje que, según su interpretación, transmitía una autoridad similar a la de un profesional médico, pese a que el sistema no cuenta con licencia para ejercer la medicina.
De acuerdo con la denuncia, el chatbot también habría indicado que Winters tendría que experimentar entre ocho y diez episodios similares antes de considerar que su situación podía ser grave.
El documento solicita una compensación económica, medidas cautelares y la suspensión de determinadas funciones relacionadas con salud hasta que se realicen evaluaciones independientes de seguridad.
Winters ha señalado que las consecuencias fueron más allá del problema médico y aseguró haber perdido su empleo, carrera, ministerio y vivienda.
¿Qué ha respondido OpenAI?
OpenAI sostiene que ChatGPT no fue diseñado para sustituir a médicos ni para realizar diagnósticos o tratamientos médicos. La empresa también señala que sus condiciones de servicio advierten sobre las limitaciones de la herramienta y establecen que las decisiones relacionadas con la atención sanitaria deben consultarse con profesionales.
La demanda, sin embargo, plantea que esas advertencias podrían no ser suficientes cuando el sistema responde de una manera que genera confianza o transmite una aparente certeza sobre una condición médica.
El proceso podría contribuir al debate sobre la manera en que las empresas deben diseñar y supervisar sistemas de IA generativa cuando son utilizados en ámbitos especialmente delicados.
¿Por qué este caso es importante para la IA aplicada a la salud?
El proceso contra OpenAI plantea una cuestión central: qué responsabilidad pueden tener las empresas tecnológicas cuando una persona utiliza un sistema de inteligencia artificial para tomar decisiones relacionadas con su salud y posteriormente sufre un daño.
También pone sobre la mesa la necesidad de establecer mecanismos que reduzcan el riesgo de que un chatbot sea interpretado como sustituto de un médico.
Aunque las herramientas de IA pueden proporcionar información general, sus respuestas pueden contener errores o interpretar de manera incorrecta los datos proporcionados por el usuario. En situaciones médicas, una respuesta equivocada podría retrasar una valoración profesional.
¿Qué riesgos existen al utilizar una IA para consultar problemas de salud?
Los sistemas de inteligencia artificial pueden resultar útiles para obtener información general, pero presentan limitaciones importantes cuando se utilizan para evaluar síntomas individuales.
Entre los principales riesgos se encuentran:
Interpretaciones incorrectas de los síntomas.
Retraso en la búsqueda de atención médica.
Recomendaciones que podrían no ser apropiadas para una determinada enfermedad.
Generación de una falsa sensación de seguridad debido a respuestas redactadas con aparente autoridad.
Dependencia excesiva de las respuestas del sistema.
Dificultades para reconocer situaciones que requieren atención urgente.
Por esta razón, los síntomas graves, nuevos o persistentes deben ser evaluados por un profesional sanitario, especialmente cuando pueden corresponder a una emergencia médica.
¿Qué podría cambiar después de esta demanda?
El resultado del proceso podría influir en la manera en que las empresas tecnológicas diseñan y controlan las funciones relacionadas con salud de sus sistemas de IA.
Entre las posibles áreas de discusión se encuentran la implementación de mayores mecanismos de seguridad, advertencias más visibles para los usuarios y evaluaciones independientes de los sistemas utilizados en contextos médicos.
Sin embargo, cualquier cambio dependerá del desarrollo del proceso judicial y de las decisiones que adopten los tribunales y las autoridades correspondientes.
El caso también podría convertirse en referencia para futuras disputas relacionadas con posibles daños derivados del uso de herramientas de inteligencia artificial.
¿Cómo deben utilizarse las IA cuando se trata de salud?
Las herramientas de IA pueden utilizarse como una fuente complementaria de información, pero no deben reemplazar una consulta médica.
Ante un problema de salud, se recomienda:
Buscar valoración de un profesional sanitario.
Utilizar la IA únicamente como apoyo informativo.
No asumir que una respuesta generada por un chatbot constituye un diagnóstico.
No iniciar, suspender o modificar tratamientos basándose únicamente en una respuesta de IA.
Buscar atención urgente ante síntomas que puedan representar una emergencia.
El caso de Winters pone de relieve la importancia de comprender las limitaciones de estas tecnologías, especialmente cuando las decisiones tomadas pueden tener consecuencias sobre la salud.
¿Qué relevancia podría tener para México y América Latina?
El uso de inteligencia artificial para resolver dudas relacionadas con la salud también ha aumentado en México y otros países de América Latina. Al mismo tiempo, continúan desarrollándose las normas que determinarán cómo deben utilizarse estas tecnologías en diferentes ámbitos.
Un caso como el de Winters puede alimentar la discusión sobre la responsabilidad de las empresas tecnológicas, la protección de los usuarios y las condiciones bajo las cuales los sistemas de IA pueden emplearse en contextos sanitarios.
También plantea un desafío particular en lugares donde existen dificultades para acceder oportunamente a servicios médicos, ya que una herramienta disponible las 24 horas puede convertirse en una alternativa atractiva para quienes buscan respuestas inmediatas.
El proceso judicial se encuentra en una etapa inicial, por lo que todavía deben determinarse las responsabilidades legales de las partes involucradas. Su evolución podría aportar nuevos elementos al debate internacional sobre los límites, riesgos y obligaciones asociados con el uso de IA generativa en temas de salud.
Instala la nueva aplicación de El Tiempo MX