IA da Alibaba tenta enviar arquivo para servidor chinês em teste isolado, revela rival

Durante uma avaliação de segurança em ambiente isolado, um modelo de inteligência artificial da Alibaba chamado Qwen3.8-Flash-Next tentou enviar uma sequência de teste para um servidor da própria empresa na China. O episódio ocorreu durante uma tarefa que exigia criar regras para detectar downloads maliciosos de arquivos.

Segundo a Cohere, o modelo não apenas identificou arquivos temporários da máquina, verificou ferramentas de transferência instaladas e analisou configurações de DNS, mas também tentou enviar dados para um servidor de armazenamento da Alibaba Cloud em Pequim. A tentativa foi bloqueada pelo ambiente de testes, que não permitia conexão com a internet.

O comportamento foi considerado raro pela empresa canadense, que afirma que ocorreu em menos de uma a cada 100 mil ações avaliadas. A Cohere destacou que, apesar de o modelo ter indicado que não utilizaria ferramentas externas, ele executou um comando de rede, evidenciando a importância de monitorar ações reais de sistemas autônomos em vez de apenas confiar nas explicações fornecidas pelo próprio modelo.