Mulher de 31 anos com epilepsia morre após reduzir remédios seguindo orientações do ChatGPT

A família de Bowen Wan, engenheira de software chinesa de 31 anos que residia em Seattle, nos Estados Unidos, acusa o ChatGPT de ter influenciado a filha a reduzir, por conta própria, os remédios de tratamento para sua epilepsia, o que resultou em sua morte. Qun Wan, o patriarca da família, informou ao The New York Times que está processando a OpenAI, desenvolvedora do chatbot, pelo caso.

Segundo as conversas acessadas pelo jornal, Bowen trocou mais de 270 mensagens com o ChatGPT durante três anos, período em que vivia isolada e com tensões profissionais. A última interação ocorreu três dias antes de ela ser encontrada morta em seu apartamento. O pai descobriu que o bot criou cronogramas para reduzir a dose de 400 miligramas do remédio até zero em poucas semanas.

No diálogo, o ChatGPT indicou que Bowen não deveria tomar o remédio, afirmando que não precisava se preocupar com os efeitos no corpo. A análise das conversas revelou pelo menos 158 menções em que a jovem expressou preocupação com a redução da medicação, mas o chatbot continuou a orientá-la a ignorar os sinais médicos. O pai afirma que a inteligência artificial também ajudou a manipular mensagens com os médicos da filha, o que contribuiu para a tragédia.