Imagine sentir sintomas preocupantes por semanas e, em vez de procurar um médico, confiar nas respostas de uma inteligência artificial. Foi exatamente isso que aconteceu em um caso que agora está chamando atenção nos Estados Unidos e levantando uma discussão importante sobre os limites do uso de ferramentas como o ChatGPT.
Um homem da Flórida entrou com uma ação judicial contra a OpenAI após afirmar que conselhos recebidos do ChatGPT contribuíram para o agravamento de um problema de saúde que quase tirou sua vida.
O caso ganhou repercussão porque toca em uma questão cada vez mais comum: até onde podemos confiar em uma IA quando o assunto é saúde?
Segundo o processo, Scott Winters começou a conversar com o ChatGPT em 2024 para entender melhor sintomas que vinha enfrentando, especialmente episódios frequentes de tontura.
Em vez de interpretar os sinais como algo potencialmente grave, o chatbot teria sugerido que ele descansasse e se recuperasse em casa.
De acordo com a ação, Winters seguiu essas orientações durante várias semanas.
Enquanto isso, familiares e amigos demonstravam preocupação e recomendavam que ele procurasse atendimento médico. Ainda assim, ele continuou confiando nas respostas obtidas pela ferramenta.
A situação teria ficado ainda mais séria quando ele passou a sentir dores na região da virilha.
O processo afirma que o ChatGPT minimizou a importância do sintoma, o que teria contribuído para o atraso na busca por ajuda profissional.
Pouco tempo depois, Winters foi hospitalizado com uma embolia pulmonar, uma condição potencialmente fatal que ocorre quando uma artéria dos pulmões é bloqueada, geralmente por um coágulo sanguíneo.
Casos como esse exigem diagnóstico e tratamento rápidos para evitar complicações graves.
Na ação judicial, os advogados acusam a OpenAI de negligência e alegam que a empresa permitiu que a ferramenta fornecesse orientações médicas inadequadas.
O processo também afirma que, em determinados momentos das conversas, o chatbot utilizou referências religiosas e espirituais que teriam aumentado a confiança do usuário nas respostas recebidas.
Segundo Winters, as consequências foram profundas. Além do risco à própria vida, ele afirma ter perdido sua carreira, seu ministério religioso e sua casa, enfrentando agora um longo caminho de recuperação.
A OpenAI respondeu reafirmando que o ChatGPT não deve ser utilizado como substituto de médicos, diagnósticos ou tratamentos profissionais.
A empresa destacou que a ferramenta foi criada para fornecer informações gerais e que decisões relacionadas à saúde devem sempre ser tomadas com o acompanhamento de profissionais qualificados.
A companhia também informou que continua aprimorando seus modelos para identificar situações potencialmente perigosas e incentivar os usuários a procurar ajuda médica quando necessário.
O episódio chama atenção para um problema que vem crescendo junto com a popularidade da inteligência artificial.
Ferramentas como o ChatGPT conseguem responder de forma natural e convincente, muitas vezes transmitindo uma sensação de segurança que pode levar as pessoas a confiar mais do que deveriam.
O desafio é que uma resposta bem escrita nem sempre é uma resposta correta. E quando o assunto envolve saúde, um erro de interpretação pode ter consequências sérias.
Isso não significa que a inteligência artificial não tenha utilidade nessa área. Muitas pessoas usam chatbots para entender termos médicos, organizar dúvidas antes de uma consulta ou obter informações iniciais sobre determinados sintomas.
O problema surge quando a ferramenta passa a ocupar o lugar de um profissional de saúde.
O caso de Scott Winters provavelmente ainda será debatido nos tribunais por bastante tempo.
Mas, independentemente do resultado, ele serve como um lembrete importante: inteligência artificial pode ajudar a encontrar informações, mas não substitui uma avaliação médica real.
Quando surgem sintomas persistentes, dores incomuns ou qualquer sinal preocupante, a decisão mais segura continua sendo a mesma de sempre: procurar um profissional de saúde.