Anthropic quer impedir que companhias escondam qual AI estao usando

A Anthropic está desenvolvendo tecnologia que possibilita verificar se uma resposta foi realmente produzida pelo modelo de inteligência artificial (AI) que uma companhia declara utilizar. Batizado de FlashProve, o sistema usa criptografia pra conceber uma espécie de comprovante matemático da identidade do modelo responsável por determinada saída. A ideia é dar aos usuários uma maneira de garantir se estao interagindo com a AI revelada pelo fornecedor, ao invés de uma edição diferente ou menas avançada.

De acordo com a Anthropic, o mecanismo igualmente poderia complicar tentativas de companhias de substituir secretamente seus modelos por alternativas mais acessíveis ou mostrar resultados de desempenho que nao correspondem à tecnologia utilizada. O projeto foi mostrado em publicação da empresa nesta terça-feira (3). A companhia igualmente disponibilizou uma especificação técnica e partes do codigo em formato aberto a fim de que outros pesquisadores possam examinar e melhorar a iniciativa.

Como funciona o FlashProve? O sistema utiliza o conceito de “inferência comprovável”, que consiste em provocar uma prova criptográfica de que determinada resposta veio de um modelo particular; A proposta é semelhante às assinaturas digitais usadas em emails pra garantir a identidade de quem mandou uma mensagem. Nesse caso, no entanto, a verificação serviria pra identificar qual AI produziu um material; Pra isso, os devs de modelos necessitariam publicar uma espécie de impressão digital de cada sistema liberado.

Mais tarde, essa identificação poderia ser comparada às respostas produzidas pela AI e verificada através de mecanismos criptográficos; Um aspecto relevante é que essas impressões digitais nao anunciariam os pesos do modelo — os valores internos que definem seu funcionamento e comportamento. Companhias, como Anthropic e OpenAI, mantêm essas informacoes privadas, mas poderiam participar de um sistema de verificação sem abrir mão desse segredo comercial; A tecnologia igualmente foi projetada pra ser leve, possibilitando que a verificação seja realizada diretamente em um aparelho local. Leia mais: Anthropic diz que AI pode agilizar o first-party desenvolvimento Modelo de AI da Anthropic ignora aviso e mantém ciberataque em teste de segurança Anthropic altera regras do Claude Code pra impedir cópias de títulos existentes Sistema poderia impedir troca secreta de modelos Um dos problemas que o FlashProve planeja encarar é a possibilidade de um fornecedor mostrar um modelo aos clientes, mas