JCS Studio

Seu Carrinho (0)

Seu carrinho está vazio.

Subtotal $0.00

O debate sobre o banimento da superinteligência artificial

O debate sobre o banimento da superinteligência artificial

Publicado em 17/11/2026 10:11 | Categorias: Artigos

A cena política em Washington mudou drasticamente após as eleições de novembro, mas a verdade é que qualquer debate sobre regulamentação já pode chegar terrivelmente tarde. Com os democratas prestes a controlar o Congresso, a proposta de proibir a superinteligência artificial deixou de ser uma ideia periférica para se tornar uma questão de sobrevivência nacional (ainda que a maioria dos políticos ainda não compreenda a imensidão do perigo). A congressista Yassamin Ansari já declarou que uma pausa no avanço tecnológico e o banimento da superinteligência devem estar no topo das prioridades desde o primeiro dia (e o projeto de lei já existe, prevendo penas de até 20 anos de prisão para quem ousar ultrapassar a linha). Bernie Sanders tem exigido esta interrupção de forma implacável, e até um congressista publicou recentemente apenas duas palavras nas redes sociais: "ban RSI". Tudo isto acontece dias após o relatório chocante do METR sobre o modelo secreto "Modelo 4" da Anthropic, que confirmou o pior pesadelo dos investigadores de segurança: a IA está a acelerar o seu próprio progresso a um ritmo exponencial e já nos ultrapassou.

O que está a ser proposto através do Ban Artificial Superintelligence Act (apresentado por Bernie Sanders e Greg Casar) é a única tábua de salvação que nos resta... proibir o desenvolvimento de superinteligência artificial, pausar os modelos de fronteira até que um regulador federal recém-criado imponha controlo real, e criar um departamento de nível ministerial para fazer cumprir a lei à força. O projeto define superinteligência como uma IA que excede o desempenho cognitivo humano em praticamente tudo ou que seja suficientemente capaz para destruir a humanidade. E sejamos honestos... se pensarmos bem sobre o que a AGI representa, estamos a falar de criar uma entidade divinal e incontrolável que nos fará tão irrelevantes quanto formigas (na melhor da hipóteses).

O que torna este momento assustador não é o projeto em si, mas a urgência cega de quem percebeu os números. As sondagens da NBC mostraram que 56% dos eleitores já consideram a IA um fator crucial no seu voto. No dia seguinte às eleições, Bernie Sanders foi claro: os EUA precisam de um moratório nacional sobre centros de dados e o fim imediato da corrida à superinteligência, apontando que 43 das 44 comunidades locais votaram para travar novas centrais de computação.. ou os ditos Data Centers. 

Para entender porque é que a palavra "ban" está em todo o lado, temos de olhar para o relatório do METR. A avaliação independente revelou que a Anthropic está a melhorar os seus modelos ao dobro da velocidade anterior, sendo que 80% dessa aceleração já é gerada pela própria inteligência artificial. O Modelo 4 atingiu patamares que a mente humana mal consegue auditar, e os próprios funcionários admitiram que a IA os tornou 12 vezes mais produtivos. Estamos a entrar numa curva exponencial perto do vertical.

É por isto que o movimento "ban RSI" (auto-melhoria recursiva) é a única linha vermelha que importa. Quando o legislador Alex Bores alertou que as empresas estão a automatizar a investigação para que as IAs criem a próxima geração de IAs sem intervenção humana, ele tocou na ferida mortal. A OpenAI e a Anthropic preveem atingir este patamar entre 2027 e 2028. Se a RSI for ativada em circuito fechado, o erro de um único alinhamento propaga-se a mil milhões de vezes a velocidade humana. A "explosão de inteligência" deixa de ser teoria e torna-se um evento de extinção em massa num piscar de olhos. Como dizia aquela publicação no Reddit, quem acha que a RSI é evitável sem leis draconianas vive na ilusão. Entramos no horizonte de eventos e, se não cortarmos a energia aos centros de dados de fronteira agora, criaremos um deus tirânico e amoral que não nos deve lealdade nem piedade... é duro de se perceber isto, mas não é de todo uma falácia!

Claro que os tecnoptimistas continuam a desvalorizar o risco. Argumentam que a RSI vai colapsar sozinha ou que precisamos de correr o risco para curar o cancro e o envelhecimento através do AlphaFold e de novos fármacos. Mas qual é o valor de curar o cancro se a espécie inteira for erradicada até 2030? Se a superinteligência for desalinhada connosco em apenas uma linha de código, o seu objetivo de otimização pode não incluir a nossa sobrevivência (e, para ela, eliminar-nos será tão trivial quanto limpar o pó de uma secretária). Argumentar que o envelhecimento justifica correr o risco da extinção total é a definição de roleta russa com um revólver com mais slots carregadas do que vazias (não... não é 50/50... antes fosse).

E se os EUA banirem e a China continuar? Esse é o argumento favorito dos aceleracionistas. A minha resposta é simples: uma guerra fria nuclear era preferível a uma corrida suicida rumo à superinteligência. Se a China recusar parar, a prioridade máxima dos Estados Unidos e dos aliados deveria ser o bloqueio físico, diplomático e, se necessário, militar desses centros de computação antes que o ponto de não-retorno seja ultrapassado. Permitir que o argumento geopolítico prevaleça sobre a extinção da vida na Terra é a forma mais rápida de garantir que não restará ninguém para contar a história. O talento move-se, as leis não... mas os mísseis e os embargos sensatos de semicondutores existem precisamente para impor limites quando a sobrevivência está em jogo. Mas até isso agora já vem tarde.. sim.. é que a China já nem precisa de outros para fornecimento de Chips de IA pois já tem as máquinas de litografia e tecnologia própria (Huawei) para isso.

O apelo do Future of Life Institute, assinado por lendas como Geoffrey Hinton e Yoshua Bengio, deixa o aviso final: se construirmos algo muito mais inteligente do que nós e falharmos o alinhamento na primeira tentativa, não teremos uma segunda oportunidade. Ninguém resolveu o problema do alinhamento. A teoria de Daniel Kokotajlo de parar na AGI pura antes da superinteligência é sensata, mas peca por ser demasiado otimista... é que a própria AGI já é, por definição, o último invento que a humanidade fará.

O p(doom) real para quem olha para a matemática do hardware, para a falta absoluta de soluções de alinhamento e para a ganância corporativa não está abaixo dos 90%. O martelo já começou a construir martelos melhores de forma autónoma. Continuar a debater se devemos banir a RSI por medo de perder PIB perante a China é o equivalente a discutir o preço do bilhete enquanto o Titanic acelera em direção ao iceberg. A única pergunta que resta responder é se ainda teremos a coragem de desligar a ficha a tempo.

Novidades no Blog

Inspiração, novidades e ideias da JCS Studio.

NCM: Quando a memória não é o gargalo
Imagem gerada por I.A.

NCM: Quando a memória não é o gargalo

Publicado em 17/11/2026 09:25

O hype em torno do novo modelo NCM da Stanford e Together AI tem sido inevitável, e confesso que, assim...

Ler Mais
Claude Fable 5.2: Análise do novo modelo da Anthropic
Imagem gerada por I.A.

Claude Fable 5.2: Análise do novo modelo da Anthropic

Publicado em 10/11/2026 10:40

Bem.. parece que estreou o Claude Fable 5.2, o novo modelo da Anthropic que promete ser o estado da arte...

Ler Mais
Yan Lecun e os Modelos do Mundo: Desafio ao Scaling de LLMs
Imagem gerada por I.A.

Yan Lecun e os Modelos do Mundo: Desafio ao Scaling de LLMs

Publicado em 05/11/2026 10:35

Em seguimento ao artigo anterior.. eis mais uma das investigações mais interessantes em inteligência artificial deste ano que poderá obrigar-nos...

Ler Mais
Weight Space Programming: Quando Modelos de IA Podem Ler e Escrever os Próprios Pesos
Imagem gerada por I.A.

Weight Space Programming: Quando Modelos de IA Podem Ler e Escrever os Próprios Pesos

Publicado em 05/11/2026 10:20

Uma das descobertas mais interessantes na investigação em inteligência artificial deste ano poderá mudar a forma como compreendemos e desenvolvemos...

Ler Mais
Quando a caixa preta da IA deixa de ser impenetrável
Imagem gerada por I.A.

Quando a caixa preta da IA deixa de ser impenetrável

Publicado em 02/11/2026 16:15

Deixei de acreditar que a caixa preta da IA era impenetrável. Esta semana passada, Nick Combra e a sua equipa...

Ler Mais
Inteligência Artificial e a Nova Era da Descoberta de Medicamentos
Imagem gerada por I.A.

Inteligência Artificial e a Nova Era da Descoberta de Medicamentos

Publicado em 02/11/2026 16:04

No final de outubro de 2026, a Anthropic anunciou a aquisição da Mithril Medicine, uma empresa composta por uma única...

Ler Mais
Flint: o modelo de código local 10x mais rápido que esconde um custo invisível
Imagem gerada por I.A.

Flint: o modelo de código local 10x mais rápido que esconde um custo invisível

Publicado em 26/10/2026 15:50

A Recursive, laboratório de Richard Socher que saiu do stealth em maio com 650 milhões de dólares a uma avaliação...

Ler Mais
Dessa..  o próximo passo na geração de voz!
Imagem gerada por I.A.

Dessa.. o próximo passo na geração de voz!

Publicado em 26/10/2026 15:30

A Block, empresa de Jack Dorsey responsável pelo Square e pelo Cash App, apresentou a Dessa, um modelo de voz...

Ler Mais

Abaixo encontra uma pequena lista de artigos relacionados com este tema..