Acusan a ChatGPT de poner en riesgo la vida de un hombre por “consejos”de salud: el caso ya llegó a tribunales.

Un pastor aseguró que el chatbot de OpenAI lo alentó a no pedir atención médica cuando tuvo los primeros síntomas de una embolia pulmonar.

Según la demanda, Scott Winters comenzó a consultar a ChatGPT sobre diversos síntomas físicos y, con el paso de los meses, el chatbot dejó de insistir en que buscara atención profesional para ofrecer respuestas cada vez más específicas sobre su condición.

De acuerdo con el documento judicial, esa interacción habría contribuido a que el hombre pospusiera la visita al hospital hasta sufrir una emergencia médica que requirió su ingreso en una unidad de cuidados intensivos.

OpenAI respondió que ChatGPT no está diseñado para diagnosticar ni tratar enfermedades y recordó que sus términos de servicio establecen que la herramienta no sustituye la atención de un profesional sanitario.

La acción judicial afirma que ChatGPT aseguró en repetidas ocasiones que los síntomas de Winters no representaban un peligro inmediato y lo animó a continuar recuperándose en casa.

De acuerdo con la demanda, el chatbot llegó incluso a responder con frases que reforzaban esa decisión, como recomendarle confiar en que su cuerpo se recuperaría por sí solo, en lugar de acudir a un médico.

Los abogados del demandante sostienen que las funciones de seguridad del sistema no actuaron de forma consistente y que el modelo terminó proporcionando diagnósticos, recomendaciones de tratamiento y consejos que excedían el propósito para el que fue creado.

La demanda sostiene que los especialistas consideraron que los mareos previos pudieron haber sido consecuencia de pequeñas embolias pulmonares que no fueron tratadas oportunamente y que el largo periodo de inmovilidad habría agravado la situación.

Tras la hospitalización, Winters necesitó ayuda para realizar actividades cotidianas como caminar, vestirse, comer y utilizar el baño, además de enfrentar un proceso de recuperación física y psicológica.

OpenAI reiteró que ChatGPT no debe utilizarse para recibir diagnósticos ni tratamientos médicos y aseguró que trabaja continuamente para mejorar la seguridad de las respuestas relacionadas con la salud.

con información de INFOBAE.