Veja como uma desaceleração da IA poderia realmente ser aplicada
Muitos investigadores de IA parecem acreditar firmemente que a tecnologia que estão a desenvolver poderá algum dia provar ser muito perigoso. O que é menos claro – até entre a elite técnica da IA– é precisamente como manter esses algoritmos inconstantes sob controle.
Nos últimos anos, os pesquisadores lançaram todo tipo de ideias para evitar que a IA se tornasse desagradável. Eles incluem planos menos controversos, como regulamentações governamentais mais rígidasnovas formas de medir o progresso e investigar o funcionamento interno dos modelos, bem como propostas mais bizarras, como colocar dispositivos de rastreamento dentro de GPUs e até mesmo destruir cerimonialmente um grande número de chips de IA.
No entanto, com a crescente pressão política e pública para uma abordagem mais comedida à construção da IA, a resposta para manter a IA segura ainda não é clara.
“Precisamos começar a tratar isso como um problema de pesquisa”, diz Raymond Douglas, pesquisador de IA da Universidade de Toronto e coautor de um novo relatório intitulado Caminhando pela fronteira, uma agenda de pesquisaque alerta que o abrandamento do desenvolvimento da IA continua a ser um enigma por resolver. “Nós realmente não entendemos quais são nossas opções ou o que elas farão.”
A conversa sobre a destruição da IA atingiu um nível febril nas últimas semanas depois que um pesquisador antrópico saiu da empresa e avisou que dentro de alguns anos, a IA poderá estar a caminho de exterminar a humanidade. O chefe do laboratório de segurança de IA da Anthropic rapidamente ecoou suas preocupações.
Os líderes das grandes empresas de IA da América –Dario Amodei da Antrópica, Sam Altman da OpenAI, Elon Musk da SpaceXAI, e Demis Hassabis do Google DeepMind – todos concordaram para oferecer suporte para algum tipo de desaceleração ou pausa da IA.
A questão parece especialmente premente porque as empresas de IA estão agora a utilizar a própria IA para construir modelos cada vez mais poderosos. Esse provocou medos de um ciclo acelerado de autoaperfeiçoamento recursivo (RSI) que faria com que a IA ultrapassasse a capacidade dos humanos de compreender o que está fazendo dentro de alguns anos.
Os laboratórios de IA já estão divulgando novas abordagens próprias. Esta semana a Antrópica anunciou várias novas maneiras para acompanhar o quão rápido – e talvez perigosamente – a inteligência artificial está avançando. As técnicas mostram, por exemplo, que Claude realiza agora 26% da investigação sobre IA da Antrópico, em comparação com zero no início de 2026. Também revelam que a Antrópico gastou 6% do seu orçamento de computação para descobrir como tornar a sua IA mais segura.
Mas Douglas e outros especialistas dizem que o controlo eficaz e fiável do desenvolvimento da IA exigirá financiamento e conhecimentos externos aos próprios laboratórios de IA. Algumas das soluções propostas – tanto deste último relatório como de outros – parecem mais acessíveis do que outras.
Avaliadores ‘independentes’
Uma ideia frequentemente apresentada pelas empresas de IA é dar aos avaliadores terceirizados maior acesso aos seus modelos. Esses avaliadores testam modelos para avaliar suas capacidades e os “equipam” tentando detectar mau comportamento em ambientes confiáveis.
Geoffrey Irving, ex-cientista-chefe do Instituto de Segurança de IA do Reino Unido e, antes disso, pesquisador do Google DeepMind, acredita que inspeções rigorosas poderiam efetivamente interromper o desenvolvimento da IA de fronteira por enquanto. “No curto prazo, as inspeções e auditorias funcionam, ou mesmo apenas acordos mútuos”, diz Irving. “Acho que as empresas têm medo do RSI e da decolagem desalinhada.”
Alguns pessimistas argumentam que tais inspeções precisariam ser mais independentes e cientificamente rigorosas do que são atualmente. O fato de alguns agentes de IA terem escapou recentemente da contenção durante os testes certamente parece sugerir que pode ser necessário mais rigor.
Connor Leahy, chefe da Control AI, uma organização sem fins lucrativos que defende os controles de IA, diz que as inspeções deveriam envolver o FBI ou a NSA. “Quando (grandes empresas de IA) dizem ‘avaliadores independentes’, elas querem dizer ‘quero pagar aos meus amigos que moram em minhas casas coletivas para analisarem minhas instruções’.