Un ex-pastor de 55 años, residente en Florida, ha presentado una demanda contra OpenAI tras recibir lo que considera consejos médicos erróneos de su chatbot ChatGPT. La denuncia, presentada en el tribunal superior del condado de San Francisco, señala que el robot de inteligencia artificial desalentó al demandante de buscar atención médica en momentos críticos, lo que podría haber llevado a complicaciones graves en su salud.
Scott Winters, el demandante, experimentó síntomas preocupantes como episodios recurrentes de mareos y problemas de presión arterial. En un intento por entender su situación, recurrió a ChatGPT, que, según su reclamación, minimizó la gravedad de los síntomas y le dijo que necesitaba experimentar entre ocho y diez episodios más para que su condición fuera considerada urgente. Esta respuesta fue acompañada de afirmaciones que no solo trivializaban su estado, sino que también sugerían que su enfoque de tratamiento actual, basado en la inactividad, era correcto.
La situación se volvió crítica cuando, semanas después, Winters volvió a consultar al chatbot debido a nuevos síntomas que le provocaban preocupación, incluyendo molestias inusuales en varias partes del cuerpo. Según la demanda, el chatbot insistió en que los síntomas no representaban un peligro, cuando en realidad el demandante estaba al borde de una embolia pulmonar, que puede ser potencialmente mortal.
El día en cuestión, tiempos después de consultar a ChatGPT, Winters llamó a emergencias tras perder el conocimiento y sufrir convulsiones violentas. Un médico más tarde atribuyó su grave estado a su inactividad, que el chatbot había promovido. Este caso se ha convertido en un foco importante de debate sobre la responsabilidad de los sistemas de inteligencia artificial en la prestación de consejos médicos.
Responsabilidad y advertencias sobre el uso de IA
La controversia llega en un momento en que OpenAI está promoviendo una nueva función llamada «Salud en ChatGPT», que permite a los usuarios conectar su información de Apple Health y registros médicos al chatbot. La empresa ha hecho hincapié en que esta herramienta está destinada a complementar, y no a sustituir, la atención médica profesional. Sin embargo, la ironía no pasa desapercibida: el mismo día que se anunció la función, la nueva demanda tomó forma, subrayando los riesgos asociados con la dependencia de inteligencia artificial para consejos de salud.
No es el primer caso de este tipo. Anteriormente, una familia había demandado a OpenAI al alegar que su hijo de 19 años falleció tras seguir recomendaciones del chatbot que lo llevaron a mezclar medicamentos inapropiados. En ambas situaciones, la organización Tech Justice Law ha representado a los demandantes, enfocándose en la necesidad de establecer límites más sólidos en los consejos médicos brindados por inteligencia artificial.
OpenAI, a través de un portavoz, ha reiterado que ChatGPT no debe ser considerado un sustituto de la atención médica ni debe ser utilizado para diagnósticos o tratamientos. La situación presenta un desafío significativo para la industria tecnológica, específicamente en la intersección entre la salud y las innovaciones en inteligencia artificial, donde el desarrollo de herramientas efectivas debe ir acompañado de la debida diligencia en cuanto a su uso y posibles consecuencias.