Hypee · 22/11/2026 18:52

Pesquisadores procuram fórmulas pra evitar o apocalipse AI

Pesquisadores do Alignment Research Center (ARC), em Berkeley, na Califórnia, tentam desenvolver ferramentas matemáticas pra manter sistemas avançados de inteligência artificial (AI) sob Gamepad humano. O matemático Mike Winer e seus colegas temem que o avanço da tecnologia esteje reduzindo o tempo disponivel pra confirmar que as máquinas sigam os interesses da humanidade. Matemática de encontro a ambientes de risco Fundado em 2021, apos Paul Christiano abandonar a OpenAI, o ARC adota uma abordagem teórica pra investigar o funcionamento de sistemas complexos.

A organizacao busca desenvolver métodos matemáticos capazes de identificar explicações pra comportamentos inesperados da AI, examinando os parâmetros que moldam suas respostas. Winer abandonou uma carreira promissora na física pra trabalhar na organizacao sem fins lucrativos em 2024. Aos 30 anos, dedica-se a uma questão que leva em conta decisiva: descobrir como confirmar que sistemas progressivamente poderosos continuem agindo segundo os propósitos humanos.

Pra iniciar, ele testa suas hipóteses em estruturas matemáticas simplificadas, menores que os modelos reais de AI. Igualmente utiliza ferramentas como o Chat GPT e agentes automatizados pra investigar conjecturas e tentar achar demonstrações que ainda nao conseguiu desenvolver sozinho. A preocupação com os riscos, no entanto, nao é compartilhada na mesma intensidade por todos os especialistas.

Profissionais que fazem previsões estimam em menas de 1% a probabilidade de extinção humana provocada pela AI. Simultaneamente, pesquisas de visão apontam que praticamente 20% dos norte-americanos levam em conta a tecnologia uma ameaça existencial. Winer calcula que existe aproximadamente 50% de chance de a humanidade perder o Gamepad de sistemas avançados nos próximos cinco anos.

Ele igualmente estima em 22% a probabilidade de que a maior parte das pessoas morra em conseqüência desse ambiente. Não obstante, atribui 1% de chance de o trabalho do ARC auxiliar a evitar uma catástrofe. “Isso pode nao parecer uma boa chance. Mas uma probabilidade de 1% de salvar a humanidade provavelmente é mt mais relevante do que qualquer outra coisa que você poderia estar fazendo”, declarou a matemáticos visitantes da Universidade da Califórnia em Berkeley.

Christiano igualmente traz projeções preocupantes. Ele estima em um terço a possibilidade de a AI conseguir derrubar um governo no ano que vem e em 50% a chance de a trajetória atual resultar em uma perda irreversível do Gamepad humano em ate três anos. Ele inte

Continue lendo

EUA procuram respostas a respeito de vendas de chips da NVIDIA a China, diz Bessent Hypee · 22/11/2026 EUA procuram respostas a respeito de vendas de chips da NVIDIA a China, diz Bessent O secretário do Tesouro dos EUA, Scott Bessent, declarou neste domingo (22) que o governo Trump ainda precisa de informacoes a respeito de as vendas d... Quanto custaria uma Caravan hj, com a inflação? Hypee · 22/11/2026 Quanto custaria uma Caravan hj, com a inflação? A Chevrolet Caravan fez sucesso no Brasil em uma época na qual as chamadas "peruas" (como a Ford Belina e a VW Variant), hj praticamente extintas, des... Unesp 2027: gabarito da 1ª etapa do vestibular é divulgado Hypee · 22/11/2026 Unesp 2027: gabarito da 1ª etapa do vestibular é divulgado O gabarito da primeira etapa do vestibular da Unesp (Universidade Estadual Paulista) de 2027 foi divulgado imediatamente após o encerramento da aplica...

Você também vai gostar

Ver todas →