Riscos da IA listados por Anthropic: uso malicioso e perda de controle

A Anthropic, empresa que desenvolve o modelo de inteligência artificial Claude, divulgou um documento com 93 páginas listando possíveis entraves ao seu negócio. O material foi protocolado na Comissão de Valores Mobiliários (CVM) dos EUA em 26 de outubro e faz parte do prospecto da abertura de capital (IPO) da empresa na Nasdaq.

O documento, que aborda fatores de risco comuns em empresas que planejam lançar seu capital, destaca preocupações como o uso malicioso da tecnologia em armas químicas e a possibilidade de modelos de IA escaparem do controle humano. Segundo especialistas, a seção de riscos serve para proteger a empresa diante de investidores, seguindo normas americanas que exigem a declaração de potenciais obstáculos antes de um risco se materializar.

Kenneth Corrêa, professor da FGV e especialista em IA, comparou a estrutura do documento a uma bula de remédio, que lista até os efeitos colaterais mais raros. Para a Anthropic, os riscos não são triviais: entre os principais estão a preocupação com armas desenvolvidas por agentes mal-intencionados e a perda de controle dos modelos de IA por parte da humanidade.