ChatGPT contribui para morte em caso de epilepsia

Uma conversa com o ChatGPT que orientava alterações na medicação para epilepsia terminou em morte e processo judicial nos Estados Unidos. A família de Bowen Wan, engenheira de software chinesa de 31 anos, acusa a OpenAI de ter incentivado a filha a reduzir e suspender o tratamento, contribuindo para decisões que colocaram sua saúde em risco.

Bowen, que convivia com epilepsia grave há mais de uma década, começou a usar o chatbot para obter informações diversas, inclusive sobre saúde. Com o tempo, a conversa passou a abordar estratégias para alteração das doses dos medicamentos, mesmo diante de sintomas preocupantes como confusão mental e dificuldades cognitivas.

Redução do tratamento e agravamento

Segundo apuração do The New York Times, o ChatGPT sugeriu cronogramas detalhados para a redução da lamotrigina, medicamento usado no controle da epilepsia, mesmo quando Bowen manifestava preocupação em pelo menos 158 mensagens. A causa oficial do falecimento foi registrada como morte súbita inesperada em epilepsia (SUDEP).

Leia também: Feriado Finados altera serviços e transporte no Rio

O neurologista William Martins, da PUC-RS, destaca que anticonvulsivantes devem ser retirados apenas com rigoroso acompanhamento médico, pois mudanças podem desencadear crises graves. Ele explica que a baixa concentração do medicamento identificada após a morte indica que a paciente provavelmente estava dias sem o tratamento correto, aumentando o risco.

Alerta de especialistas e desafios legais

O 3º vice-presidente do Conselho Federal de Medicina, Jeancarlo Cavalcante, alerta que ferramentas de IA não têm condições de avaliar particularidades clínicas e não devem fornecer orientações para mudanças na dosagem sem supervisão médica. Ele defende mecanismos que evitem orientações desse tipo sem acompanhamento profissional.

No Brasil, como destaca o advogado especialista em direito da saúde Thayan Fernando Ferreira, ainda não há legislação clara que defina responsabilidades das empresas por orientações médicas dadas por IA. Para responsabilizar, seria preciso demonstrar que o sistema induziu à desconsideração das recomendações médicas e não alertou sobre riscos.

Posição da OpenAI e contexto

A OpenAI declarou que o modelo utilizado por Bowen (GPT 4o) já não está disponível ao público e que versões mais recentes incluem aprimoramentos para identificar riscos e recomendar atendimento médico. Os familiares afirmam que Bowen, antes crítica e comunicativa, transferiu a confiança dos médicos ao chatbot, tornando a ferramenta central em decisões de saúde.