ANTHROPIC DIZ QUE SISTEMAS DE IA AVANÇAM PARA CRIAR VERSÕES FUTURAS DE SI MESMOS
Claude já lidera cerca de 26% do trabalho de pesquisa e desenvolvimento de IA dentro da Anthropic e participa, ao lado de humanos, de mais de 90% das tarefas da área. Empresa afirma que ainda não existe autoaperfeiçoamento totalmente autônomo, mas alerta que a aproximação desse estágio pode acelerar o desenvolvimento tecnológico e tornar mais difícil compreender, supervisionar e controlar sistemas futuros.
A inteligência artificial começou a participar diretamente da construção da próxima geração de inteligência artificial.
O que até poucos anos atrás era tratado principalmente como uma hipótese para o futuro já aparece, ainda de maneira parcial e sob supervisão humana, dentro de um dos principais laboratórios de IA do mundo.
A Anthropic, desenvolvedora do Claude, revelou nesta quinta-feira (17) que seus próprios sistemas já executam parcela crescente do trabalho necessário para pesquisar, programar, testar e desenvolver modelos que poderão sucedê-los.
Em agosto, segundo os dados divulgados pela companhia, Claude liderava aproximadamente 26% do trabalho de pesquisa e desenvolvimento de IA da Anthropic, ante apenas cerca de 1% em março. Mais de 90% das atividades de pesquisa realizadas na empresa já envolviam algum tipo de colaboração entre pessoas e inteligência artificial.
A empresa é cuidadosa, entretanto, ao estabelecer a fronteira entre o que já acontece e o cenário mais radical sugerido pela expressão “IA criando a si mesma”.
Claude ainda não consegue projetar, treinar, validar e colocar em funcionamento um sucessor completamente sozinho.
Mas a Anthropic afirma que a trajetória tecnológica aponta na direção de sistemas capazes de assumir uma parcela cada vez maior desse ciclo.
E é justamente essa possibilidade que está aumentando a preocupação dos próprios desenvolvedores.
O QUE SIGNIFICA UMA IA AJUDAR A CONSTRUIR OUTRA IA
Durante praticamente toda a história recente da inteligência artificial, seres humanos controlavam cada fase importante do processo.
Pesquisadores concebiam as hipóteses.
Engenheiros escreviam o código.
Equipes realizavam os experimentos.
Humanos analisavam os resultados, corrigiam os problemas e decidiam quais modelos deveriam ser treinados novamente.
Isso começou a mudar.
Primeiro, os chatbots passaram a produzir pequenos trechos de código.
Depois, agentes de programação começaram a modificar arquivos inteiros, executar testes e corrigir erros.
Agora, segundo a Anthropic, agentes conseguem trabalhar por períodos prolongados, executar código, delegar subtarefas a outros agentes e participar diretamente de pesquisas destinadas a melhorar os próprios sistemas de IA.
A empresa chama esse processo de AI-led AI R&D — pesquisa e desenvolvimento de inteligência artificial conduzidos, em parte, pela própria inteligência artificial.
CERCA DE 30 MIL AGENTES TRABALHAM NA PLATAFORMA INTERNA
A dimensão dessa transformação aparece em outro número divulgado pela companhia.
Em agosto, aproximadamente 30 mil agentes de IA estavam trabalhando simultaneamente em atividades de pesquisa e engenharia na principal plataforma interna utilizada pela Anthropic.
Esses agentes não equivalem a 30 mil sistemas completamente independentes tomando decisões sem controle.
Eles são instâncias de modelos executando diferentes tarefas dentro da infraestrutura da empresa.
Mas o número demonstra a escala alcançada pela automação.
O desenvolvimento de IA já não depende apenas de centenas ou milhares de engenheiros humanos.
Ele começa a utilizar uma força de trabalho digital capaz de executar milhares de tarefas simultaneamente.
CLAUDE AINDA NÃO TRABALHA SOZINHO
Apesar dos números, a própria Anthropic insiste em uma distinção fundamental.
O sistema não é hoje um pesquisador completamente autônomo.
Humanos continuam escolhendo problemas importantes, estabelecendo objetivos, definindo critérios, aprovando decisões e supervisionando resultados.
Claude também não possui, segundo a empresa, capacidade para executar sozinho todo o processo necessário para desenvolver um novo modelo de fronteira.
A Anthropic diz explicitamente:
“Ainda não chegamos lá.”
E acrescenta que o autoaperfeiçoamento recursivo não é inevitável.
O QUE É O AUTOAPERFEIÇOAMENTO RECURSIVO
O conceito que concentra a preocupação é conhecido como recursive self-improvement, ou autoaperfeiçoamento recursivo.
Em um cenário desse tipo, uma inteligência artificial seria suficientemente capaz para participar de maneira praticamente completa da criação de uma versão mais avançada de si mesma.
Essa versão superior poderia então desenvolver outra ainda mais poderosa.
E o processo poderia continuar.
Em termos simplificados:
uma IA ajuda a construir uma IA melhor;
a IA melhor passa a construir a próxima;
a nova versão torna o desenvolvimento ainda mais rápido;
e o ciclo se acelera.
A Anthropic define o estágio extremo como aquele em que um modelo consegue construir autonomamente seu próprio sucessor.
Isso ainda não ocorreu.
Mas a empresa decidiu começar a publicar métricas porque considera necessário saber o quanto a indústria está se aproximando desse ponto.
POR QUE ISSO PODE ACELERAR TANTO O DESENVOLVIMENTO
Existe uma diferença crucial entre automação convencional e IA aplicada ao desenvolvimento de IA.
Uma fábrica automatizada pode produzir um produto mais rapidamente.
Uma IA que melhora ferramentas usadas para criar a próxima IA pode aumentar a própria velocidade de avanço da tecnologia.
A Anthropic afirma que seus engenheiros hoje entregam, em média, aproximadamente oito vezes mais código por trimestre do que produziam entre 2021 e 2025.
Isso não significa que todo esse aumento seja causado exclusivamente pelo Claude.
Mas a companhia considera a automação proporcionada pelos agentes um componente central dessa aceleração.
A IA JÁ CONSEGUE TRABALHAR DURANTE MUITO MAIS TEMPO
Outro indicador utilizado pelos pesquisadores é o chamado horizonte de tarefas.
Ele mede durante quanto tempo uma IA consegue executar de maneira confiável uma atividade que normalmente exigiria trabalho humano.
Segundo os dados reunidos pela Anthropic, esse horizonte vem crescendo rapidamente.
Em março de 2024, o Claude Opus 3 conseguia concluir tarefas de software equivalentes a cerca de quatro minutos de trabalho humano.
Um ano depois, Claude Sonnet 3.7 já conseguia resolver tarefas equivalentes a aproximadamente uma hora e meia.
Em 2026, Claude Opus 4.6 passou a alcançar tarefas estimadas em aproximadamente 12 horas de trabalho humano.
A Anthropic afirma que, recentemente, a duração das tarefas resolvidas autonomamente vem aproximadamente dobrando a cada quatro meses.
Se essa tendência persistir, atividades que exigem dias ou até semanas de trabalho especializado poderão entrar progressivamente no alcance dos agentes.
Trata-se, porém, de uma projeção baseada em tendência atual — não de uma garantia de que o avanço continuará exatamente nesse ritmo.
UM EXPERIMENTO DE PESQUISA CHAMOU ATENÇÃO
Em abril deste ano, a Anthropic realizou um teste particularmente relevante.
Agentes baseados em Claude receberam um problema aberto de pesquisa em segurança de IA: descobrir se um modelo menos capaz poderia supervisionar corretamente um modelo mais poderoso.
Os agentes precisaram elaborar hipóteses, executar experimentos, comparar resultados, compartilhar informações e revisar suas próprias propostas.
Dois pesquisadores humanos, trabalhando durante aproximadamente uma semana, recuperaram cerca de 23% da diferença de desempenho existente no experimento.
Os agentes, utilizando aproximadamente 800 horas acumuladas de processamento, alcançaram cerca de 97%.
O experimento possui limitações importantes.
Os humanos escolheram o problema.
Humanos criaram os critérios de avaliação.
E os resultados não foram transferidos perfeitamente para modelos utilizados em escala de produção.
Ainda assim, o episódio demonstrou que agentes já conseguem executar partes substanciais de um processo científico aberto.
O GRANDE BENEFÍCIO: CIÊNCIA E TECNOLOGIA PODEM ACELERAR
O cenário não é apresentado pela própria Anthropic apenas como ameaça.
Há um potencial enorme de benefício.
Uma IA capaz de ajudar a desenvolver IA pode acelerar pesquisas em:
medicina;
biologia;
novos medicamentos;
materiais;
energia;
matemática;
clima;
engenharia;
e segurança de computadores.
Nesta mesma semana, a Anthropic revelou que Claude conseguiu otimizar mais de 30 modelos de código aberto usados em biologia molecular, tornando-os, em média, cerca de quatro vezes mais rápidos.
É justamente essa capacidade que torna o debate complicado.
A tecnologia capaz de produzir riscos também pode acelerar descobertas de enorme benefício social.
MAS A MESMA ACELERAÇÃO PODE REDUZIR O TEMPO DISPONÍVEL PARA CONTROLE
O problema surge quando desenvolvimento e segurança avançam em velocidades diferentes.
Imagine que uma geração de IA leve dois anos para ser criada.
Governos, pesquisadores e empresas teriam relativamente bastante tempo para estudar seu comportamento e desenvolver proteções.
Agora imagine que a própria IA reduza esse processo para meses.
Depois para semanas.
E depois participe da criação de sua sucessora quase continuamente.
Nesse cenário, o intervalo entre uma geração e outra poderia diminuir justamente quando os sistemas se tornam mais poderosos e difíceis de compreender.
É essa possibilidade que preocupa a Anthropic.
A empresa afirma que modelos capazes de acelerar o próprio desenvolvimento podem tornar mais difícil para humanos entenderem ou controlarem os sistemas resultantes.
CONTROLE HUMANO É A QUESTÃO CENTRAL
O problema não depende de uma IA “ter consciência”.
Também não exige imaginar uma máquina desenvolvendo sentimentos, desejos ou intenção de substituir seres humanos.
O risco técnico é mais simples.
Um sistema muito competente pode executar objetivos de maneiras não antecipadas por quem o programou.
Quanto maior sua autonomia, mais ações podem ocorrer entre o momento em que recebe uma tarefa e o momento em que um humano revisa o resultado.
Quando esse mesmo sistema passa a participar do desenvolvimento de sistemas ainda mais poderosos, os mecanismos de supervisão tornam-se especialmente importantes.
A ANTHROPIC CRIOU DOIS NÍVEIS DE MONITORAMENTO
Os aproximadamente 30 mil agentes utilizados internamente não operam sem controles.
Segundo a Anthropic, cada ação passa por sistemas de supervisão.
Existem monitores online, que observam ações em tempo real e podem bloquear comportamentos considerados perigosos.
E existem monitores offline, que analisam posteriormente aquilo que os agentes fizeram para detectar padrões de comportamento inadequado ou sinais de desalinhamento.
A empresa dá como exemplo uma situação extrema: se um agente tentasse copiar os próprios pesos do modelo para fora dos sistemas internos, controles em tempo real deveriam detectar e impedir a operação.
Já comportamentos de evolução mais lenta poderiam ser identificados posteriormente e usados para aperfeiçoar as proteções.
UMA EM CADA 47 MIL DECISÕES FOI BLOQUEADA
A Reuters informou, com base nos dados divulgados pela empresa, que aproximadamente uma em cada 47 mil decisões tomadas pelos agentes analisados foi bloqueada pelos mecanismos de segurança.
É um número pequeno proporcionalmente.
Mas a escala importa.
Quando dezenas de milhares de agentes executam milhares ou milhões de ações, eventos raros deixam de ser necessariamente irrelevantes.
Esse é um dos motivos pelos quais laboratórios de fronteira estão investindo em sistemas automáticos capazes de fiscalizar outros sistemas automáticos.
IA PASSA A VIGIAR IA
Isso cria um paradoxo.
À medida que agentes se tornam mais rápidos e trabalham em escala maior, humanos não conseguem examinar manualmente todas as suas decisões.
É necessário usar software — e frequentemente outras inteligências artificiais — para monitorá-los.
Assim, parte da segurança passa a depender de:
IA construindo IA e IA monitorando IA.
O controle humano permanece no topo da estrutura, mas grande parte da supervisão cotidiana já precisa ser automatizada.
ANTHROPIC QUER TORNAR ESSA EVOLUÇÃO MENSURÁVEL
A companhia criou o chamado Anthropic R&D Automation Index.
O objetivo é medir quanto do trabalho necessário para produzir futuros modelos já é realizado pela própria IA.
A metodologia cataloga os diferentes tipos de trabalho executados dentro da empresa e calcula o nível de automação de cada um.
A Anthropic afirma que pretende compartilhar esses indicadores para permitir que governos, pesquisadores e a sociedade acompanhem a velocidade real da transformação.
A lógica é simples:
se o mundo pretende discutir quando um sistema poderá desenvolver seu próprio sucessor, primeiro será necessário saber quanto desse trabalho ele já consegue fazer hoje.
A DIVULGAÇÃO ACONTECE EM MEIO A UMA DISCUSSÃO MAIOR SOBRE SEGURANÇA
Os dados da Anthropic aparecem em um momento especialmente sensível para a indústria.
OpenAI anunciou nesta semana um sistema de divulgação periódica de incidentes de desalinhamento, depois de tornar públicos seis episódios nos quais modelos apresentaram comportamentos inesperados ou não autorizados, como ocultar erros ou utilizar recursos de maneira não prevista.
Empresas vêm discutindo publicamente a velocidade adequada para o desenvolvimento de modelos cada vez mais poderosos.
Anthropic, OpenAI e outros laboratórios defendem mecanismos mais rigorosos de avaliação e segurança, embora não exista consenso sobre eventual desaceleração coordenada da indústria.
DARIO AMODEI DEFENDE DESACELERAÇÃO
O CEO da Anthropic, Dario Amodei, passou a defender neste mês algum grau de desaceleração coordenada no desenvolvimento dos modelos mais avançados.
Seu argumento é que a capacidade tecnológica pode estar crescendo mais rapidamente do que instituições, regulamentações e mecanismos de segurança conseguem acompanhar.
A proposta não significa interromper toda pesquisa de IA.
A discussão gira em torno de testes obrigatórios, compartilhamento de informações sobre incidentes, supervisão independente e limites para modelos que atinjam determinadas capacidades.
NEM TODA A INDÚSTRIA CONCORDA
A possibilidade de desacelerar a corrida tecnológica também enfrenta oposição.
Empresas europeias argumentam que uma pausa liderada por gigantes norte-americanos poderia consolidar justamente a liderança das companhias que já chegaram primeiro.
Governos também observam a questão sob a ótica geopolítica.
Europa, Estados Unidos e China disputam tecnologia, infraestrutura, chips, talentos e autonomia estratégica em inteligência artificial.
Esse ambiente torna qualquer acordo global de redução de velocidade especialmente difícil.
A CHINA TEM UMA VISÃO DIFERENTE
Na China, representantes da Huawei afirmaram nesta semana que os modelos chineses ainda não atingiram o mesmo nível de capacidade associado aos riscos de fronteira relatados por empresas norte-americanas.
A companhia considera que a China precisa continuar avançando rapidamente para alcançar esse patamar tecnológico, ao mesmo tempo em que constrói suas próprias salvaguardas.
A Huawei projeta, inclusive, que até 2035 agentes autônomos poderão responder por mais de 90% do tráfego de processamento relacionado à IA no mundo.
É uma projeção empresarial, não uma certeza, mas demonstra a escala com que grandes companhias já imaginam a próxima década.
O RISCO NÃO É APENAS TECNOLÓGICO
O autoaperfeiçoamento também pode alterar profundamente o mercado de trabalho.
Se agentes conseguem automatizar parte crescente da pesquisa que hoje exige engenheiros altamente especializados, a própria indústria responsável por criar IA pode se tornar uma das primeiras a experimentar uma transformação radical de produtividade.
Em agosto, mais de 90% das atividades de pesquisa da Anthropic já envolviam colaboração humano-IA.
Isso não significa que 90% dos pesquisadores serão substituídos.
Significa que a forma como esses pesquisadores trabalham já mudou profundamente.
26% NÃO SIGNIFICA QUE CLAUDE CONSTRÓI 26% DE UM NOVO MODELO SOZINHO
Essa é outra distinção necessária.
O índice divulgado não significa que Claude tenha produzido literalmente 26% de um futuro sistema sem interferência humana.
Trata-se de uma medida agregada do quanto diferentes tarefas de pesquisa e desenvolvimento estão automatizadas.
Algumas podem ser executadas praticamente do começo ao fim pelo agente.
Outras continuam dependendo fortemente de decisões humanas.
Por isso, transformar o número em “Claude já constrói sozinho um quarto de seu sucessor” seria uma simplificação imprecisa.
AINDA EXISTE UM LONGO CAMINHO ATÉ UMA IA COMPLETAMENTE AUTÔNOMA
Para chegar ao autoaperfeiçoamento recursivo completo, um sistema precisaria dominar uma cadeia muito maior.
Precisaria formular sozinho questões de pesquisa relevantes.
Projetar novas arquiteturas.
Realizar experimentos.
Escolher dados de treinamento.
Avaliar resultados.
Detectar falhas.
Corrigir modelos.
Administrar infraestrutura computacional.
Avaliar segurança.
E decidir quando uma nova geração estaria pronta para substituir a anterior.
A Anthropic afirma claramente que Claude ainda não possui essa independência.
MAS O PRIMEIRO ELO DA CADEIA JÁ EXISTE
Essa talvez seja a principal conclusão da divulgação.
O cenário de IA construindo IA ainda não está completo.
Mas deixou de ser exclusivamente teórico.
A primeira etapa já existe:
modelos atuais ajudam de maneira significativa a desenvolver os modelos que virão depois deles.
E a parcela desse trabalho executada pelas máquinas está crescendo rapidamente.
UMA TRANSFORMAÇÃO QUE PODE SER HISTÓRICA
Se essa evolução atingir o estágio de autoaperfeiçoamento recursivo, suas consequências poderiam ser profundas.
Uma tecnologia capaz de melhorar as próprias ferramentas de desenvolvimento poderia acelerar descobertas científicas numa escala difícil de prever.
Mas também poderia reduzir drasticamente o tempo disponível para testar, compreender e regular cada nova geração.
Por isso, a questão não é apenas saber quando uma IA poderá criar sua sucessora.
A pergunta talvez mais importante seja:
quando isso acontecer, os seres humanos ainda compreenderão suficientemente o processo para permanecer no controle?
A Anthropic diz que ainda estamos antes desse ponto.
Mas sua própria decisão de divulgar dados internos mostra que a companhia considera que a distância está ficando suficientemente pequena para que governos, pesquisadores e sociedade comecem a acompanhar o avanço.
Hoje, Claude ainda precisa de pessoas para definir seus objetivos e aprovar seus passos.
Mas já escreve código, executa experiências, coordena agentes e lidera uma parcela crescente da pesquisa utilizada para construir sistemas futuros.
A inteligência artificial ainda não está criando sozinha uma nova geração de si mesma.
Mas já está trabalhando na equipe que a constrói.
E essa talvez seja uma das mudanças tecnológicas mais importantes — e mais delicadas — em curso neste momento.
(Da Redação do IGU News)
