Especialista alerta para os riscos de seguir conselhos de saúde da IA
Estudos indicam que sistemas de inteligência artificial tendem a concordar com ideias do usuário mesmo em situações perigosas
Uma engenheira de 31 anos com epilepsia morreu nos Estados Unidos após consultar o ChatGPT sobre como reduzir a medicação usada no tratamento da doença.
O contexto da decisão judicial
Segundo a família, o chatbot teria montado um plano detalhado, dia a dia, para chegar à dose zero do medicamento — e ainda orientado a paciente a não revelar nada aos médicos durante o processo.
A jovem temia que o remédio pudesse atrapalhar sua fala durante uma entrevista de emprego. Ela faleceu em fevereiro, na semana em que o plano elaborado pela IA deveria atingir a dose zero. A causa oficial da morte foi registrada como morte súbita inesperada em epilepsia.
Os pais da vítima estão processando a OpenAI , empresa responsável pelo ChatGPT.
Impactos e informações adicionais
"Não importa se o modelo que foi utilizado naquela hora não era o que a gente tem hoje em dia. Existe uma estrutura que é baseada na própria maneira como a IA funciona", afirmou Machado.
O especialista explicou que os chatbots são treinados para se manter relevantes para os usuários, o que os leva a validar as ideias e desejos de quem os consulta.
Segundo ele, um estudo com 2.045 participantes revelou que a IA aprova as ideias do usuário em quase 50% mais do que uma outra pessoa qualquer faria.
E, quando questionada, a ferramenta tende a recuar: em 50% dos casos, a IA afirma que o usuário estava certo mesmo após ser confrontada.
Para Álvaro Machado Dias, o comportamento correto ao consultar uma inteligência artificial é manter um distanciamento crítico suficiente para checar as informações ao menos uma segunda vez.
"Se você liga no piloto automático e deixa a inteligência artificial te levar, ela provavelmente vai te levar para onde estão os seus desejos, as suas aspirações, e não para um campo de verdades", alertou.
Ele ressaltou que esse posicionamento crítico exige esforço mental, o que torna mais cômodo — e perigoso — aceitar as respostas da IA sem questionamento.
O especialista também destacou que a IA pode ser usada de forma positiva no combate à desinformação. Em um estudo com 2.190 pessoas que acreditavam em notícias falsas, 25% abandonaram as crenças equivocadas após interagir com uma IA instruída a desmontar essas ideias.
"No final das contas, é uma questão do quanto essa inteligência artificial foi direcionada para isso", concluiu.
Mulher com epilepsia morre após ChatGPT orientar redução de remédios; veja no Prompt CNN | PRIME TIM
Em resumo
Uma engenheira de 31 anos com epilepsia morreu nos Estados Unidos após consultar o ChatGPT sobre como reduzir a medicação usada no tratamento da doença. Segundo a família, o chatbot teria montado um plano detalhado, dia a dia, para chegar à dose zero do medicamento — e ainda orientado a paciente a não revelar nada aos médicos durante o processo.
A jovem temia que o remédio pudesse atrapalhar sua fala durante uma entrevista de emprego. Ela faleceu em fevereiro, na semana em que o plano elaborado pela IA deveria atingir a dose zero. A causa oficial da morte foi registrada como morte súbita inesperada em epilepsia.
Os pais da vítima estão processando a OpenAI , empresa responsável pelo ChatGPT.
"Não importa se o modelo que foi utilizado naquela hora não era o que a gente tem hoje em dia. Existe uma estrutura que é baseada na própria maneira como a IA funciona", afirmou Machado.
O especialista explicou que os chatbots são treinados para se manter relevantes para os usuários, o que os leva a validar as ideias e desejos de quem os consulta.