Memória em Grafos: uma nova forma de corrigir agentes de IA
Memória em Grafos: uma nova forma de corrigir agentes de IA
Os agentes de inteligência artificial falham menos por falta de capacidade de linguagem do que pela dificuldade em manter uma sequência correcta de decisões. Em tarefas longas, um erro inicial pode contaminar os passos seguintes, gerar tentativas repetidas e transformar uma operação simples num ciclo dispendioso de reflexão, correcção e nova falha.
O preprint Experience Memory Graph (EMG) propõe uma alternativa a esse padrão. Em vez de pedir continuamente ao modelo para explicar, em linguagem natural, porque falhou, o método transforma a experiência do agente numa estrutura de grafo e procura matematicamente a diferença entre um percurso falhado e um percurso bem-sucedido.
A ideia central é tratar cada acção como um nó e cada observação ou transição contextual como uma ligação. Assim, a execução deixa de ser apenas uma sequência textual de mensagens e passa a poder ser observada como uma rede de decisões. Esta mudança permite comparar comportamentos de forma estrutural, e não apenas semântica.
Durante a fase de preparação, o sistema recebe duas trajectórias para a mesma tarefa: uma exploração que falhou e uma trajectória de referência que chegou ao resultado pretendido. Ambas são convertidas em grafos dirigidos de decisão e acção, com informação sobre o que foi feito, em que contexto e em que ordem.
O passo decisivo é o alinhamento entre esses grafos. O método identifica a parte comum, isto é, os passos que já estavam correctos, e isola as divergências. A partir daí, produz um conjunto de operações de edição: apagar ações erradas, inserir ações em falta ou alterar uma ação que ocorreu no contexto adequado mas foi executada da forma errada.
Esta correcção não depende exclusivamente da capacidade introspectiva do modelo. O artigo usa uma formulação de transporte óptimo conhecida como Fused Gromov-Wasserstein, que combina a compatibilidade entre nós com a compatibilidade entre as relações estruturais. Não basta que duas acções tenham nomes semelhantes; também têm de ocupar papéis compatíveis na progressão da tarefa.
Esse detalhe é importante. Uma mesma acção pode ser válida num momento e inadequada noutro, porque o estado do ambiente mudou. Ao considerar as ligações e a posição relativa dos nós, o sistema reduz o risco de associar decisões semanticamente idênticas mas causalmente incompatíveis.
O resultado é guardado numa Experience Memory Graph, uma memória estruturada que conserva tanto fluxos de trabalho correctos como caminhos de reparação. Cada memória descreve, de forma operacional, o que deve ser preservado e o que deve mudar quando um agente encontra uma situação semelhante.
Na execução de uma nova tarefa, a proposta evita repetir todo o processo de reflexão e tentativa. Em vez disso, recupera experiências relevantes da memória e entrega ao agente orientações de correcção previamente calculadas. O objectivo é uma execução única, sem os ciclos sucessivos de falhar, reflectir e recomeçar.
Esta abordagem é particularmente interessante para modelos pequenos ou executados localmente. Quando o raciocínio correctivo mais pesado é feito offline, um modelo com menos parâmetros não precisa de diagnosticar sozinho uma cadeia longa de decisões mal sucedidas. Pode receber instruções concretas, baseadas em padrões de erro já analisados.
Os autores avaliam o método em ALFWorld e ScienceWorld, dois ambientes de referência para agentes que executam tarefas compostas. Segundo os resultados apresentados, o EMG supera as baselines de reflexão em taxa de sucesso e recompensa média, ao mesmo tempo que elimina as repetições de tentativa e erro durante a inferência.
Há, contudo, uma fronteira clara entre corrigir experiências conhecidas e descobrir soluções genuinamente novas. O método precisa de trajectórias de referência bem-sucedidas na fase de construção da memória. Se essas trajectórias forem apenas aceitáveis, mas não óptimas, a correcção aprendida tenderá a reproduzir uma solução funcional, não necessariamente a melhor solução possível.
A generalização para tarefas realmente inéditas também merece prudência. Na fase de teste, a recuperação depende da semelhança entre a nova tarefa e experiências armazenadas. Se o problema estiver longe dos exemplos disponíveis, uma instrução recuperada pode não ser suficiente para construir o caminho correcto.
Por isso, o maior contributo desta proposta não é substituir a inteligência do agente por uma base de dados. É tornar explícita a diferença entre uma decisão que falhou e uma decisão que deveria ter sido tomada. Ao transformar essa diferença em operações estruturadas, a memória deixa de ser um arquivo de texto e passa a ser um mecanismo de reparação processual.
Para sistemas de produção, a hipótese mais promissora é combinar esta memória de correcção com planeamento adaptativo, ferramentas robustas e validação durante a execução. Os grafos podem reduzir desperdício, latência e loops de reflexão, mas a descoberta de soluções fora do repertório conhecido continuará a exigir capacidades de raciocínio, exploração e verificação que não cabem numa simples recuperação de memória... mas estamos no bom caminho!
