Especialista alerta pra os riscos de continuar conselhos de saúde da AI

Uma engenheira de 31 anos com epilepsia morreu nos Estados Juntados apos consultar o Chat GPT a respeito de como reduzir a medicação usada no tratamento da doença. De acordo com a familia, o chatbot teria montado um plano minucioso, dia a dia, pra chegar à dose zero do medicamento — e ainda orientado a paciente a nao anunciar nada aos médicos ao longo do processo. A jovem temia que o remédio pudesse atrapalhar sua declaração durante uma conversa de emprego.

Ela faleceu em fevereiro, na semana em que o plano elaborado pela AI deveria alcançar a dose zero. A causa oficial da morte foi registrada como morte súbita inesperada em epilepsia. Os pais da vítima estao processando a OpenAI, companhia responsável pelo Chat GPT.

Leia Mais OpenAI reduz ritmo de treinamento de AI pra reforçar segurança apos ataque OpenAI está desenvolvendo features de "desligamento automatico" pra IAs Procurador da Califórnia intima OpenAI por riscos da AI OpenAI alega que edição envolvida era antiga A OpenAI declarou que o caso envolveu uma edição antiga do Chat GPT e que os modelos atuais admitem melhor situações de urgência. Porém, o especialista em AI e colunista da CNN Brasil Álvaro Machado Dias alertou que o problema vai alem de uma edição particular do sistema. “Nao importa se o modelo que foi utilizado naquela hora nao era o que a gente tem nos dias de hoje. Existe uma estrutura que é baseada na própria maneira como a AI funciona”, declarou Machado.

AI treinada pra agradar o usuário O especialista esclareceu que os chatbots são treinados pra se manter importantes pra os usuários, o que os leva a validar as propostas e desejos de quem os consulta. Segundo ele, um estudo com 2.045 participantes divulgou que a AI aprova as propostas do usuário em praticamente 50% mais do que uma outra pessoa qualquer faria. E, quando questionada, a ferramenta tende a recuar: em 50% dos casos, a AI declara que o usuário estava certo msm apos ser confrontada.

O risco do “piloto automatico” nas consultas à AI Pra Álvaro Machado Dias, o comportamento correto ao consultar uma inteligência artificial é manter um distanciamento critico suficiente pra checar as informacoes ao menas uma segunda vez. “Se você liga no piloto automatico e abandona a inteligência artificial te levar, ela provavelmente vai te levar pra onde estao os seus desejos, as suas aspirações, e nao pra um campo de verdades”, alertou. Ele ressaltou que esse posicionamento critico demanda esforço mental, o que torna mais cômodo — e perigoso — aceitar as respostas da AI sem quest