Anthropic diz que AI pode agilizar o first-party desenvolvimento

A Anthropic declarou que pode estar próxima de desenvolver uma inteligência artificial capaz de agilizar o first-party aprimoramento. O alerta dá as caras em uma atualizacao de seu prospecto de abertura de capital (S-1/A), mandada à Comissão de Valores Mobiliários dos Estados Juntados (SEC). A companhia declara que ainda nao alcançou esse estágio, mas suas estimativas apontam que isso pode ocorrer brevemente.

A companhia ja utiliza inteligência artificial em atividades de pesquisa e desenvolvimento de novos modelos. – Captura: gguy/Shutterstock O que é a autossuperação recursiva da AI? Conhecida como recursive self-improvement (RSI), ou autossuperação recursiva, a tecnologia descreve um estágio em que sistemas de inteligência artificial conseguem melhorar seus próprios processos de desenvolvimento, agilizando a evolucao de suas capacidades. A possibilidade separa visões.

Pra criticos preocupados com os riscos da AI, esse avanço poderia levar à criacao de sistemas tão poderosos que escapassem ao Gamepad humano e provocassem danos enquanto que perseguissem seus propósitos. Ja os entusiastas enxergam na RSI uma oportunidade de aumentar a produtividade e agilizar descobertas científicas. A Anthropic admite os dois lados dessa discussao.

No documento mandado à SEC, a companhia declara que ja utiliza inteligência artificial em suas atividades de pesquisa e desenvolvimento, mas alerta que essa estrategia igualmente pode representar um risco notável à segurança, particularmente se agilizar drasticamente o ritmo do progresso. Companhia reconhece que pode alcançar esse estágio brevemente A atualizacao inclui novos alertas na seção de fatores de risco. A Anthropic divulga que ja utilizou sistemas de inteligência artificial pra desenvolver novos modelos sem perceber, naquele momento, a dimensão dos avanços de capacidade atingidos.

O uso crescente de AI nas pesquisas igualmente pode fazer com que os modelos evoluam mais rapidamente do que a capacidade da companhia de desenvolver, validar e implementar medidas de segurança, alinhamento e proteção. De acordo com o documento, estimativas internas e projeções a respeito de modelos futuros apontam que a empresa pode alcançar brevemente o que sua Política de Escalonamento Responsável determina como “progresso dramaticamente acelerado atribuível à AI”. A companhia ressalva que nenhum de seus modelos atuais foi classificado como tendo ultrapassado esse limite.

A avaliacao dos dados segue em andamento. A companhia leva em conta atualizar sua Política de Escalonamento Responsável pra