IA que melhora IA: o que a melhoria recursiva significa hoje
IA que melhora IA: o que a melhoria recursiva significa hoje
A melhoria recursiva de IA descreve a situação em que sistemas de IA contribuem de forma material para criar sistemas posteriores mais capazes. É um tema central porque une programação autónoma, investigação, avaliação e infra-estrutura de computação.
Convém começar pela distinção mais importante: não há prova pública de uma IA a reescrever autonomamente os próprios pesos e a fechar todo o ciclo de desenvolvimento sem pessoas. Essa versão forte continua a ser uma hipótese, não uma realidade demonstrada... ou pelo menos, não declarada publicamente.
O que já existe são ciclos parciais. Agentes escrevem código, correm testes, propõem experiências, analisam resultados e ajudam equipas humanas a seleccionar as alterações seguintes.
A Anthropic descreve uma delegação crescente de desenvolvimento aos seus próprios sistemas e afirma que os seus engenheiros entregam, em média, oito vezes mais código por trimestre do que no período de referência 2021–2025. É uma métrica da empresa, não uma medida universal da indústria.
A Google DeepMind também publicou uma análise sobre a transição de AGI para ASI. O documento apresenta quatro vias possíveis: escalar sistemas, mudanças de paradigma, melhoria recursiva e colectivos de agentes em larga escala; não afirma que qualquer uma delas seja inevitável.
Na prática, a verificação é o travão decisivo. Um agente pode gerar muitas hipóteses, mas experiências de treino, testes de segurança, custos de computação e revisão humana determinam se uma alteração merece ser adoptada.
Por isso, melhorias rápidas numa tarefa estreita não equivalem a uma explosão geral de inteligência. Um sistema pode optimizar código, parâmetros ou avaliações sem possuir compreensão ampla, autonomia operacional ou competência fora desse ambiente.
Os riscos aumentam quando os ciclos são mais velozes e.. opacos. Se uma equipa aceita propostas que já não consegue auditar adequadamente, pode ganhar produtividade e, simultaneamente, perder capacidade de controlo e de atribuição de responsabilidade.
Esta preocupação deixou de ser apenas filosófica. A OpenAI abriu uma posição dedicada à segurança da melhoria recursiva, e a investigação académica discute mecanismos de controlo, avaliação prévia e intervenções de treino para riscos futuros.
A conclusão equilibrada é que a IA já acelera partes do desenvolvimento de IA, mas a melhoria recursiva plenamente autónoma não está demonstrada. A questão relevante é como manter evidência, supervisão e limites à medida que estes ciclos se tornam mais capazes.
