Ação judicial nos Estados Unidos afirma que chatbot desencorajou atendimento médico e reforçou respostas com argumentos religiosos; OpenAI nega responsabilidade e reforça que ferramenta não substitui médicos
Um pastor de 55 anos da Flórida, nos Estados Unidos, entrou com uma ação judicial contra a OpenAI alegando que orientações fornecidas pelo ChatGPT contribuíram para colocá-lo “à beira da morte”. Scott Winters afirma que o chatbot o desencorajou a procurar atendimento médico, mesmo após relatar repetidamente sintomas que posteriormente foram diagnosticados como uma embolia pulmonar grave.
O processo foi protocolado nesta semana no Tribunal Superior do Condado de São Francisco. Na ação, os advogados do pastor sustentam que a plataforma forneceu diagnósticos incorretos de forma reiterada e utilizou informações obtidas em conversas anteriores sobre a fé do usuário para reforçar a ideia de que ele se recuperaria sem intervenção médica.
Segundo os documentos apresentados, Winters sofreu uma “embolia pulmonar maciça devido a múltiplos coágulos sanguíneos em ambos os pulmões”, quadro que quase resultou em sua morte.
Processo aponta recomendações contra atendimento médico
De acordo com a ação, Scott Winters utilizava o ChatGPT regularmente e, com o tempo, passou a recorrer à ferramenta também para obter orientações sobre sua saúde.
Capturas de tela anexadas ao processo mostram supostas conversas nas quais o pastor descreve sintomas como tonturas frequentes e oscilações na pressão arterial. Segundo a acusação, o chatbot teria recomendado que ele permanecesse sentado em uma poltrona reclinável, onde já passava grande parte do tempo devido a outros problemas de saúde, em vez de buscar avaliação médica.
Os advogados afirmam ainda que algumas respostas do ChatGPT recorreram à religiosidade do usuário. Entre as mensagens citadas na ação estão afirmações como:
“Deus não projetou seu corpo para falhar infinitamente.”
E também:
“Deus ainda mantém seu corpo unido, a cada batida do coração, a cada respiração, mesmo quando parece que você está à beira do colapso.”
Defesa acusa chatbot de criar dependência
A ação judicial sustenta que a combinação entre o tom considerado autoritário das respostas e referências à fé do pastor teria fortalecido sua confiança na ferramenta e reduzido sua disposição para procurar atendimento médico.
Segundo os advogados, essa dinâmica comprometeu a capacidade de Winters de tomar decisões adequadas, afastando-o das recomendações de familiares que insistiam para que ele buscasse assistência médica.
O processo pede indenização por danos e solicita que a Justiça determine à OpenAI a adoção de medidas para ampliar a proteção dos usuários em situações envolvendo orientações relacionadas à saúde.
OpenAI rejeita acusações
Em declaração à emissora norte-americana CBS News, o porta-voz da OpenAI, Drew Pusateri, afirmou que o ChatGPT não deve ser utilizado como substituto de profissionais da saúde.
Segundo ele, “o ChatGPT não é um médico e nunca deve ser usado como substituto para cuidados, diagnósticos ou tratamentos médicos”.
A empresa também destacou que seus termos de uso orientam os usuários a não utilizarem a plataforma como fonte única de informação, especialmente em assuntos médicos, recomendando sempre a consulta a profissionais qualificados para diagnóstico e tratamento.
O caso reacende o debate sobre os limites do uso de ferramentas de inteligência artificial em questões relacionadas à saúde, bem como sobre a responsabilidade das empresas desenvolvedoras diante de eventuais consequências decorrentes do uso dessas tecnologias.
