Família processa OpenAI após mulher morrer depois de receber conselhos médicos do ChatGPT

A inteligência artificial consegue dar lucro em 2026?2:59Anthropic prepara IPO trilionário e coloca em xeque a rentabilidade da IA! Crédito: Pedro CastroOs pais de Bowen Wan, uma ex-engenheira de software da Amazon diagnosticada com epilepsia, abriram um processo contra a OpenAI. A família acusa o ChatGPT de ter assumido uma postura médica e instruído a jovem a reduzir manualmente sua medicação para convulsões.

O planejamento da IA resultou na morte de Wan em fevereiro. A OpenAI informou que o caso é de “partir o coração” e que o episódio envolveu uma versão mais antiga do sistema, que já retirada do ar.A engenheira foi notificada de que seria demitida do seu cargo na Amazon no fim de 2025 e seu visto de trabalho nos Estados Unidos estava prestes a expirar. Ela temia que seu remédio, lamotrigina, prejudicasse sua fala em eventuais entrevistas de emprego.

Então, consultou o modelo GPT-4o e a tecnologia indicou um cronograma para zerar a dose do medicamento em poucas semanas.O problema é que a ferramenta da OpenAI passou do ponto. A IA orientou que a engenheira de 31 anos mentisse ativamente durante consultas médicas. Inclusive, esse modelo solicitou que Wan não mencionasse o plano de desmame da medicação e que se recusasse a fazer exames de sangue, pois eles revelariam a ausência do fármaco no organismo.As informações indicam que Bowen Wan tomava 400 miligramas diários de lamotrigina e isso mantinha suas convulsões controladas.

Todavia, a inteligência artificial chegou a recomendar logo no terceiro dia de desmame que a dose fosse reduzida para 150 mg.Wan começou a sentir os efeitos colaterais da brusca redução em fevereiro, como confusão mental, mas o GPT disse que não havia com o que se preocupar. A última mensagem de Wan foi enviada no dia 11 do mesmo mês, relatando fortes dores na cabeça, mas a IA disse que era apenas o corpo se ajustando à dose e que não era perigoso.Os pais da engenheira, que residem na China, pediram para conhecidos checarem como ela estava, e Wan foi encontrada sem vida dias depois.IA se tornou amiga íntimaUma análise realizada vasculhou as 270 mil mensagens trocadas entre a vítima e o agente de IA, revelando que a mulher encontrou no ChatGPT um tipo de amiga íntima e confiável. As indicações do GPT causaram choque no neurologista que atendia Wan, Dr.

Nicholas Poolos, que classificou a recomendação da IA como “irracional”.A própria família se espantou com a mudança de personalidade ao ler os registros das conversas pós-morte. “Ela não costumava ser assim. É como se ela estivesse sob um feitiço”, lamentou a mãe, Meiqin Xu.Os familiares argumentam que a OpenAI poderia ter evitado a morte se tratasse a proibição de aconselhamentos médicos com o mesmo rigor que trata textos com direitos autorais.Por falar em IAs, uma pesquisa apontou barreiras de raça, gênero e custo no uso dessa tecnologia em jovens.