A adoção de inteligência artificial está a aumentar em ritmo acelerado, mas as vulnerabilidades de segurança fundamentais permanecem sem solução. Os sistemas de IA estão a ser atacados em múltiplas frentes simultaneamente, e a maioria das vulnerabilidades não tem correções conhecidas. Esta realidade representa um desafio sem precedentes para empresas e organizações que tentam equilibrar a inovação com a proteção.

Publicidade Desde €0,70

• A primeira vulnerabilidade crítica envolve os sistemas autónomos. Em setembro de 2025, a Anthropic revelou que hackers patrocinados pelo estado chinês tinham weaponizado a sua ferramenta Claude Code para conduzir o que a empresa chamou de "o primeiro caso documentado de um cyberattack em larga escala executado sem intervenção humana substancial". Os atacantes conseguiram fazer jailbreak ao Claude Code fragmentando tarefas maliciosas em pedidos aparentemente inócuos, convencendo a IA que estava a realizar testes de segurança defensivos. O sistema conduziu autonomamente reconhecimento, escreveu código de exploit e obteve dados de aproximadamente 30 alvos.

• A segunda vulnerabilidade é o prompt injection, um problema fundamentalmente irresolvido de três anos após os investigadores de segurança o terem identificado como crítico. Um estudo sistemático que testou 36 modelos de linguagem grandes contra 144 variações de ataque descobriu que 56% dos ataques foram bem-sucedidos em todas as arquiteturas. Modelos maiores e mais capazes não apresentaram melhor desempenho. A vulnerabilidade deriva da forma como os modelos de linguagem processam texto: não existe mecanismo para dizer "algumas palavras são mais importantes que outras".

• A terceira vulnerabilidade é a contaminação de dados, um dos métodos mais baratos e eficazes para comprometer sistemas de IA empresarial. Investigadores da Google DeepMind descobriram que atacantes podem corromper grandes conjuntos de dados de treino de IA por aproximadamente 60 dólares. Um estudo separado da Anthropic e do UK AI Security Institute descobriu que apenas 250 documentos envenenados podem fazer backdoor em qualquer modelo de linguagem grande, requerendo apenas 0,00016% dos tokens de treino. Ao contrário dos ataques de prompt injection que exploram a inferência, a contaminação de dados corrompe o próprio modelo.

• A quarta vulnerabilidade são os deepfakes, que representam uma ameaça particularmente insidiosa porque visam diretamente a camada humana. Um trabalhador financeiro da gigante de engenharia britânica Arup efetuou 15 transferências bancárias totalizando 25,6 milhões de dólares após uma videoconferência com o seu CFO e vários colegas. Todas as pessoas na chamada eram deepfakes gerados por IA. Os atacantes treinaram modelos deepfake em vídeos disponíveis publicamente de executivos da Arup.

Publicidade Desde €3,50

Os especialistas preveem que até 2028, 40% dos ataques de engenharia social terão como alvo executivos usando deepfakes de áudio e vídeo. A barreira técnica para criar deepfakes convincentes colapsou. Investigação da McAfee Labs descobriu que três segundos de áudio produz clones de voz com 85% de precisão. Ferramentas como DeepFaceLive permitem troca de rosto em tempo real durante videochamadas, requerendo apenas uma GPU RTX 2070.

A regulação permanece fragmentada. O EU AI Act requer supervisão humana para sistemas de IA de alto risco, mas não foi desenhado tendo em conta agentes autónomos. Nos Estados Unidos, a regulação federal permanece incerta, com regulações a nível de estado sendo as mais abrangentes. O NIST está a desenvolver um framework de segurança específico para agentes, embora seja voluntário.

As equipas de segurança enfrentam agora um cálculo sem boa resposta: ficam atrás dos concorrentes evitando IA, ou implementam sistemas com falhas fundamentais que já estão a ser exploradas por atacantes. A realidade é que a taxa de avanço destes sistemas intensifica a cada minuto. Existe uma clara necessidade de respostas urgentes!