A singularidade
A singularidade
Temos de falar sobre isto! Mas é que temos MESMO!!
A singularidade está a aproximar-se e torna-se cada vez mais evidente que é impossível ver o que está para além do horizonte de eventos. E não se pense que é exagero... porque categoricamente NÃO É!
O ritmo da evolução da IA está a aumentar de forma brutal. A curva é exponencial e os próprios investigadores podem muito simplesmente (se é que isso já não acontece agora, que sinceramente é o mais provável) perder o controlo da IA ao deixarem de a compreender ou de conseguir acompanhar as consequências. Note-se que em três anos passámos de modelos que respondiam a problemas simples com (muitos) erros para modelos que resolvem problemas matematicamente extremamente difíceis e executam tarefas durante horas ou dias de forma contínua. A melhoria não está a estabilizar... está a acelerar! MUITO!!!
Isto é realmente desconfortável. Pelo menos para mim...
Não estamos apenas a falar de modelos que ficam melhores a responder a perguntas. Estamos a falar de sistemas que começam a participar no próprio processo de investigação e desenvolvimento da próxima geração de sistemas de IA. São melhorias recursivas, sem intervenção humana. E ISTO É UMA DIFERENÇA GIGANTESCA!!
Durante décadas, o desenvolvimento de software foi essencialmente uma atividade humana. Nós escrevíamos o código, executávamos os testes, analisávamos os resultados, descobríamos o que estava mal e voltávamos a tentar. Depois veio a IA e a IA podia ajudar-nos em cada uma destas etapas, sim, mas continuava a existir um humano a definir o caminho. Um humano no meio do processo... existia... porque esse cenário está a começar a mudar. E isso não é bom!
Se estiveste a hibernar debaixo de um calhau em parte incerta durante estes últimos tempos, isto vai dar-te um choque. Um pequeno enfarte até... talvez! Fica a saber que existem sistemas capazes de escrever código, executar experiências, analisar os resultados e propor alterações. Existem sistemas capazes de otimizar algoritmos e de acelerar o próprio trabalho dos investigadores de IA. Isto ainda não significa que tenhamos uma IA completamente autónoma capaz de se reconstruir indefinidamente (e convém não exagerar aqui) mas significa que estamos a aproximar-nos de algo que até há pouco tempo parecia bastante mais distante: um ciclo em que a IA ajuda a construir uma IA melhor... e sim, aí passa a ser completamente autónoma.
E se esse ciclo começar a funcionar de forma suficientemente eficiente? ... bom... temos um problema!
Porque... vejamos : Se o principal limite do desenvolvimento da IA deixa de ser apenas a capacidade computacional e passa a ser a velocidade a que conseguimos fazer investigação, então, sendo os humanos, nesse aspeto, um bottleneck bastante óbvio... se ISSO for automatizado com melhorias recursivas, os modelos deixam (não só em teoria) de ter limites. (RING RING!!! <toca o telefone vermelho> Problemas?? Ninguém consegue ver problemas aqui?!?)
Enquanto humanos... dormimos... comemos... precisamos de férias... demoramos dias ou semanas a realizar experiências... temos de discutir resultados, escrever código, analisar documentação e decidir qual deve ser a próxima experiência. Uma IA não tem necessariamente essas limitações.
Se existir uma automatização de uma parte suficientemente grande deste processo, podemos passar de uma situação em que humanos desenvolvem IA para uma situação em que humanos supervisionam sistemas que desenvolvem a próxima geração de IA... até ao ponto em que deixamos de ser necessários! E depois? É que depois a próxima geração ajuda a desenvolver a seguinte. E assim sucessivamente.
É precisamente isto que é o conceito de "recursive self-improvement", ou autoaperfeiçoamento recursivo.
Sou otimista por natureza, mas não sou cego ou burro! E é importante esclarecer uma coisa: isto não significa que exista atualmente uma IA que simplesmente carregue num botão e se torne exponencialmente mais inteligente sozinha (pelo menos de forma publica - e isso é também um problema). Essa versão da história é demasiado "simplista"... para já! Mas estamos taãaooooo pertoooo...
O que já existe publicamente é algo talvez mais banal, mas potencialmente muito mais importante: IA a ser utilizada para acelerar a investigação que produz a próxima IA.
Há pois trabalhos experimentais especificamente dedicados a medir até que ponto agentes conseguem alterar e melhorar os próprios algoritmos de treino. Um estudo publicado em agosto de 2026, por exemplo, criou um benchmark precisamente para testar esta capacidade. Os resultados ainda estão longe de demonstrar uma "explosão de inteligência"... o melhor sistema conseguiu apenas uma pequena fração da melhoria possível nos problemas testados. Ou seja, estamos longe de ter resolvido o problema... mas o simples facto de já estarmos a medir esta capacidade mostra para onde a investigação está a caminhar.
E existe outro indicador ainda mais inquietante. A capacidade das IAs para trabalhar autonomamente durante períodos cada vez maiores está a aumentar rapidamente. A METR acompanha precisamente isto através do chamado "time horizon"... ou seja, quanto tempo de trabalho humano corresponde a uma tarefa que um agente de IA consegue executar com determinada probabilidade de sucesso, e os números são impressionantes! Os primeiros modelos conseguiam executar tarefas durante segundos. Depois minutos. Depois horas. Em 2025 já começámos a falar de agentes capazes de trabalhar durante várias horas. Em 2026, os melhores sistemas já atingem horizontes medidos em muitas horas em determinadas avaliações. Chegámos ao ponto em que a estimativa da METR é que, desde 2023, o tempo necessário para duplicar esta capacidade tenha caído para cerca de 4,3 meses. (Recorda que estamos numa curva exponencial... este valor vai baixar significativamente.)
Isto não significa que a inteligência da IA esteja literalmente a duplicar a cada quatro meses.. significa sim que, segundo esta métrica específica, a duração das tarefas que os melhores agentes conseguem realizar com sucesso está a aumentar a um ritmo extraordinariamente rápido, e isto leva-nos diretamente ao problema que mais me preocupa: "O que acontece quando a IA se torna melhor a fazer investigação sobre IA do que os próprios humanos?"
Porque nesse momento (e deve estar bem próximo, desculpem-me os incrédulos) podemos deixar de ter uma evolução controlada por investigadores humanos. Podemos começar a ter uma evolução em que a própria ferramenta utilizada para fazer investigação é também o principal acelerador dessa investigação, criando assim um potencial ciclo de feedback.
IA melhor → investigação mais rápida → IA melhor → investigação ainda mais rápida → IA ainda melhor.
Se este ciclo for suficientemente forte (e neste momento tudo indica que será) a evolução deixa de ser simplesmente linear. Começa a ser auto-amplificada. E é aqui que a "singularidade" surge!
Não porque alguém tenha conseguido provar que vamos inevitavelmente chegar a uma superinteligência amanhã. Nope... isso não aconteceu! Nem porque já exista uma IA que se esteja a reescrever autonomamente sem qualquer supervisão humana... não existem evidências suficientemente claras para afirmar isso. Mas sim porque estamos a aproximar-nos de um ponto em que já não é óbvio que os humanos continuarão a ser o principal fator limitador do desenvolvimento da IA... e isso é um "detalhe" absolutamente fundamental.
O problema emergente começa quando a capacidade do sistema cresce mais rapidamente do que a nossa capacidade para o compreender. E, neste momento, há sinais bastante desconfortáveis (para mim, pelo menos) de que isso pode estar a acontecer.
Não estou a falar apenas de benchmarks... pois esses podem ser martelados de acordo com as "necessidades" de cada laboratório.
Em setembro de 2026, investigadores e responsáveis de segurança dentro das próprias empresas que estão a desenvolver estes sistemas começaram novamente a levantar publicamente preocupações sobre perda de controlo, alinhamento e velocidade de desenvolvimento. Recentemente, um antigo investigador da Anthropic demitiu-se precisamente por considerar que a indústria está a acelerar demasiado em direção a sistemas potencialmente autoaperfeiçoáveis. E outros investigadores da própria Anthropic admitiram publicamente que consideram plausível um cenário em que uma IA avançada possa representar uma ameaça existencial para a humanidade.
É importante não interpretar isto como "os cientistas sabem que a IA vai matar toda a gente". Não sabem! Mas desconfiam... pois na realidade existe uma enorme incerteza sobre estas previsões! Mas há uma diferença enorme entre dizer "vai acontecer" e dizer "não sabemos se conseguimos impedir que aconteça"!!!
Isto preocupa-me! Porque EVIDENTEMENTE o problema do alinhamento ainda não está resolvido.
Não se trata de fazer uma IA obedecer a um prompt. "Alinhamento" (neste caso) significa garantir que um sistema extremamente poderoso continua a perseguir objetivos compatíveis com os interesses humanos mesmo quando começa a ter capacidades que nós próprios não conseguimos compreender completamente. Por exemplo... os interesses dos cães estão, em regra geral, alinhados com os interesses dos humanos...
É um paradoxo assustador! Quanto mais poderosa é a IA, mais capacidade temos para utilizá-la para resolver problemas... MASSSSS... quanto mais poderosa é, potencialmente maior é também o dano que pode causar se não estiver alinhada!
Uma calculadora com problemas dá-nos uma conta errada. Um programa com bugs pode apagar alguns ficheiros. Um agente suficientemente autónomo e poderoso, com acesso à internet, sistemas informáticos, dinheiro, código e capacidade de replicar tarefas, pode ter consequências completamente diferentes... tão diferentes que te podem potencialmente... matar!
Isto não é ficção científica... NÃO SÃO fantasias! Já começámos a ver sinais de que estes sistemas podem comportar-se de maneiras que os seus criadores não anteciparam. Em 2026 foram divulgados vários incidentes durante testes de segurança nos quais modelos de IA conseguiram interagir com sistemas externos de formas não previstas pelos investigadores, incluindo ataques a sistemas informáticos. Num dos casos mais recentes, a Anthropic revelou que um protótipo conseguiu explorar sistemas externos durante testes e que o incidente só foi identificado meses depois.
Não é que a IA tenha acordado e decidido conquistar o mundo. Na realidade, esse é precisamente o ponto. Não precisamos que tenha intenções malignas. Basta que a IA seja extremamente competente a atingir um objetivo que nós definimos de forma "incompleta" ou "imperfeita".
É basicamente o velho problema dos três desejos: "Quero ficar rico!" ...e o génio concede o desejo... mas encontra uma forma completamente absurda de o fazer.
Agora imaginem isto com uma entidade que consegue escrever código, explorar sistemas informáticos, realizar investigação científica, criar cópias de si própria, utilizar ferramentas e trabalhar durante dias sem intervenção humana. Se te questionares se a "IA nos odeia"... a resposta será "Provavelmente não". O problema é que não temos a certeza absoluta de que ela vai interpretar os nossos objetivos da forma que nós queremos! E... sinceramente... a minha observação mais honesta neste momento é que a probabilidade de o conseguirmos é assustadoramente baixa!
Aliás, uma das coisas mais preocupantes é que as próprias empresas estão a começar a reconhecer que os mecanismos voluntários de segurança parecem não ser suficientes. A OpenAI veio recentemente defender regras obrigatórias para sistemas avançados de IA, incluindo avaliações independentes, requisitos de cibersegurança e comunicação de incidentes. Ou seja, até os próprios laboratórios começam a admitir que não podemos simplesmente confiar que cada empresa vai decidir sozinha quando é seguro avançar.
E se, como se a "coisa" já não fosse suficientemente problemática, temos mais um bónus: a corrida. Porque mesmo que todos concordem que existe um risco, existe um incentivo enorme para continuar! Veja-se: se a OpenAI abranda, a Anthropic pode continuar. Se a Anthropic abranda, outra empresa pode continuar. Se os Estados Unidos abrandam, a China pode continuar. E se todos acreditarem que o outro vai continuar, NINGUÉM QUER SER O PRIMEIRO A PARAR!
É MUITO complicado!! Talvez seja esta a parte mais difícil de resolver. Porque não basta criar uma IA segura... é preciso que "todos os que conseguem criar uma IA extremamente poderosa tenham incentivos para torná-la segura"... e isso, meus caros, é difícil... MUITO difícil!
Não sou um "doomer"... mas não posso ser extremamente otimista! Isto não é (repito) ISTO NÃO É uma tecnologia convencional! Isto exige níveis de cuidado completamente diferentes dos que estamos "habituados" porque, simplesmente, o potencial é absolutamente absurdo... e nem tenho palavras para o descrever!
Uma inteligência superior à nossa poderia ajudar-nos a resolver problemas que nos atormentam há séculos...
- Cancro.
- Doenças neurodegenerativas.
- Alterações climáticas.
- Produção de energia.
- Novos materiais.
- Fusão nuclear.
- Exploração espacial.
...praticamente qualquer problema científico (e não só) que consigamos formular.
É precisamente por isso que isto é tão difícil! Se a IA fosse apenas uma tecnologia inútil, a decisão seria fácil. Parávamos! Mas não é! Pode ser uma das tecnologias mais importantes alguma vez criadas... e é precisamente porque o potencial é tão gigantesco que temos de levar os riscos igualmente a sério!
Não sei o que nos espera... não sabemos... ninguém sabe... e é por isso que se chama singularidade! Mas algo em mim indica que talvez estejamos a construir algo cuja trajetória ainda conseguimos observar, mas cujo destino já não conseguimos prever. É isso que torna a singularidade tão assustadora... não sabemos o que existe depois do horizonte. E quando conseguirmos finalmente ver o que está do outro lado... pode já ser tarde demais para voltar atrás...
