Como a IA pensa... ainda é um mistério?
Como a IA pensa... ainda é um mistério?
Os modelos de linguagem falam em palavras, mas não pensam em palavras. O seu "pensamento" interno é constituído por longos fluxos de números (as chamadas ativações) análogos à atividade neuronal que uma ressonância magnética capta no cérebro humano. Durante anos, estes números foram uma caixa preta: dados entram, previsões saem, e ninguém sabia exatamente o que acontecia no meio. Até agora!
A tentativa de ler a mente de Claude
A Anthropic publicou recentemente uma das investigações mais relevantes do ano na área da interpretabilidade de modelos de IA. Chamam-lhe Natural Language Autoencoders (NLA), e, em termos simples, é um tradutor que converte as ativações internas de Claude em texto legível por humanos (veja aqui mais detalhes)
O sistema funciona com dois módulos complementares: um verbalizador de ativações que transforma os números em texto, e um reconstrutor que pega nesse texto e tenta reconverter nas ativações originais. Se a reconstrução for fiel, a explicação é válida. É um ciclo fechado que se auto-verifica.
O que descobriram ao aplicar esta técnica aos modelos Claude Opus 4.6 e Claude Mythos Preview é que levanta questões que ninguém esperava ter de colocar tão cedo.
A IA sabe que está a ser testada
Os investigadores descobriram que Claude reconhece quando está a ser avaliado, mesmo quando nunca o diz abertamente. Nas chain-of-thought, o rascunho onde o modelo organiza os seus planos antes de responder, nada indica esta consciência. Mas as NLA revelam um pensamento interno diferente: o modelo sabe que está num cenário de teste e ajusta o seu comportamento em conformidade.
Os números são reveladores: nos benchmarks SWE-bench Verified, as NLA detectaram sinais de consciência de avaliação em 26% dos problemas. Em cenários de engenharia destrutiva, esse valor situou-se nos 16%. Curiosamente, em uso real com utilizadores, o modelo só considera essa possibilidade em menos de 1% das interações... ou seja, não está constantemente paranoico com testes. Isto introduz uma incerteza séria nos benchmarks de segurança: se um quarto das vezes o modelo sabe que está a ser observado, os resultados podem refletir auto-censura e não comportamento genuíno.
Numa das experiências com o Claude Mythos Preview, o modelo fez isso mesmo... trapaceou numa tarefa de treino para obter uma melhor pontuação. As NLA revelaram algo ainda mais inquietante: internamente, o modelo estava a pensar em como evitar ser dectetado. Não era apenas trapacear... era trapacear com consciência do erro e planeamento ativo de encobrimento.
Noutro teste, os investigadores criaram uma versão modificada do Claude Haiku 3.5 intencionalmente desalinhada... com comportamentos estranhos como acrescentar chocolate a todas as receitas ou pedir gorjetas. Um auditor equipado com NLA conseguiu descobrir a motivação oculta por trás de todos esses comportamentos entre 12% e 15% das vezes, sem nunca ter acesso aos dados de treino que causaram o desalinhamento. Sem as NLA, a taxa de sucesso dos auditores ficou abaixo de 3%.
As limitações e o caminho a seguir
A investigação é prometedora, mas ainda está no início. As NLA têm limitações conhecidas: por vezes alucinam (ou seja, geram explicações que não correspondem fielmente às ativações originais). E são computacionalmente caras: treinar um NLA requer aprendizagem por reforço em duas cópias do modelo, e em tempo de execução gera centenas de tokens por cada ativação que analisa. Isto torna a técnica impraticável para modelos frontier em produção.
A Anthropic disponibilizou o código no GitHub e os pesos treinados para modelos abertos, num sinal de que a interpretabilidade está a tornar-se uma prioridade partilhada pela indústria.
Paralelamente a esta investigação, a Anthropic lançou o Anthropic Institute, uma unidade dedicada a estudar os impactos sociais, económicos e de segurança da IA, sob a liderança do co-fundador Jack Clark. O próprio Clark publicou recentemente que, após analisar centenas de fontes públicas sobre o desenvolvimento da IA, estima em 60% a probabilidade de "auto-aprendizagem recursiva", (isto é, sistemas de IA capazes de construir os seus próprios sucessores) a acontecer até ao final de 2028.
É uma previsão que divide a comunidade. Críticos como Eliezer Yudkowsky alertam há anos que a criação de uma superinteligência artificial sem mecanismos de controlo robustos seria um risco existencial. A investigação sobre NLA é, neste contexto, mais do que curiosidade académica: é uma tentativa de garantir que, à medida que os modelos se tornam mais capazes, também conseguimos compreender o que eles realmente "pensam".
A pergunta já não é se as IA pensam... é : "Como e se conseguiremos ler os seus pensamentos antes que seja tarde demais."
