Big techs reforçam combate a materiais falsos provocados por AI nas eleições dos EUA

OpenAI, Anthropic, Google e Meta reforçaram suas estrategias pra impedir que ferramentas de inteligência artificial (AI) sejam usadas pra manipular as eleições legislativas dos Estados Juntados, que estao sendo realizadas nesta terça-feira (3). As companhias montaram equipes especializadas pra monitorar atividades suspeitas e tentar conter campanhas de desinformação capazes de comprometer a confiança no processo democrático. Na OpenAI, mais de uma dúzia de colaboradores trabalha em uma central de operações instalada em escritório da empresa em São Francisco (EUA).

A estrutura representa ampliação significativa dos esforços adotados pela companhia ao longo da eleição presidencial de 2024, quando os features de AI eram menas avançados e o Chat GPT tinha somente um quinto da base de um bilhao de usuários que conta com no momento. “Em 2024, a tecnologia mais barata era o texto. Agr, nao estamos monitorando somente textos”, declarou Josh Lawson, responsável pela área de riscos cívicos e estratégicos da OpenAI e lider da operacao, ao The New York Times. O ambiente atual inclui ameaças que vão de vídeos deepfake e ataques cibernéticos a operações de influência estrangeira e doméstica.

Com ferramentas de AI, esse tipo de campaign pode ser produzido e colocado em circulação apartir de uma sequência de comandos. Anthropic igualmente monta central de monitoramento A OpenAI nao é a única companhia a reforçar suas defesas. A Anthropic, responsável pelo chatbot Claude, concebeu de forma inédita uma sala de operações dedicada ao tema, reunindo equipes de analistas em São Francisco, Nova York (EUA) e Washington (EUA); Google e Meta igualmente prometeram aumentar os esforços pra impedir que suas ferramentas de AI sejam usadas pra enfraquecer a confiança no processo democrático; Na OpenAI, a central eleitoral iniciou a funcionar na quinta-feira anterior à votação.

A equipe de São Francisco trabalha em conjunto com uma unidade em Washington e reúne dezenas de pessoas, segundo representantes da empresa; Os colaboradores avaliam comandos mandados ao Chat GPT que são sinalizados automaticamente por possiveis tentativas de produzir textos ou capturas falsas a respeito de as eleições; Um exemplo seria o uso do chatbot pra elaborar uma campaign de influência baseada em alegações falsas de fraude eleitoral, como acusações de manipulação de cédulas. O conteudo poderia ser distribuído em redes sociais através de contas falsas; Quando identifica atividades maliciosas destinadas a circular em determinadas pl