O debate sobre o banimento da superinteligência artificial
O debate sobre o banimento da superinteligência artificial
A cena política em Washington mudou drasticamente após as eleições de novembro, mas a verdade é que qualquer debate sobre regulamentação já pode chegar terrivelmente tarde. Com os democratas prestes a controlar o Congresso, a proposta de proibir a superinteligência artificial deixou de ser uma ideia periférica para se tornar uma questão de sobrevivência nacional (ainda que a maioria dos políticos ainda não compreenda a imensidão do perigo). A congressista Yassamin Ansari já declarou que uma pausa no avanço tecnológico e o banimento da superinteligência devem estar no topo das prioridades desde o primeiro dia (e o projeto de lei já existe, prevendo penas de até 20 anos de prisão para quem ousar ultrapassar a linha). Bernie Sanders tem exigido esta interrupção de forma implacável, e até um congressista publicou recentemente apenas duas palavras nas redes sociais: "ban RSI". Tudo isto acontece dias após o relatório chocante do METR sobre o modelo secreto "Modelo 4" da Anthropic, que confirmou o pior pesadelo dos investigadores de segurança: a IA está a acelerar o seu próprio progresso a um ritmo exponencial e já nos ultrapassou.
O que está a ser proposto através do Ban Artificial Superintelligence Act (apresentado por Bernie Sanders e Greg Casar) é a única tábua de salvação que nos resta... proibir o desenvolvimento de superinteligência artificial, pausar os modelos de fronteira até que um regulador federal recém-criado imponha controlo real, e criar um departamento de nível ministerial para fazer cumprir a lei à força. O projeto define superinteligência como uma IA que excede o desempenho cognitivo humano em praticamente tudo ou que seja suficientemente capaz para destruir a humanidade. E sejamos honestos... se pensarmos bem sobre o que a AGI representa, estamos a falar de criar uma entidade divinal e incontrolável que nos fará tão irrelevantes quanto formigas (na melhor da hipóteses).
O que torna este momento assustador não é o projeto em si, mas a urgência cega de quem percebeu os números. As sondagens da NBC mostraram que 56% dos eleitores já consideram a IA um fator crucial no seu voto. No dia seguinte às eleições, Bernie Sanders foi claro: os EUA precisam de um moratório nacional sobre centros de dados e o fim imediato da corrida à superinteligência, apontando que 43 das 44 comunidades locais votaram para travar novas centrais de computação.. ou os ditos Data Centers.
Para entender porque é que a palavra "ban" está em todo o lado, temos de olhar para o relatório do METR. A avaliação independente revelou que a Anthropic está a melhorar os seus modelos ao dobro da velocidade anterior, sendo que 80% dessa aceleração já é gerada pela própria inteligência artificial. O Modelo 4 atingiu patamares que a mente humana mal consegue auditar, e os próprios funcionários admitiram que a IA os tornou 12 vezes mais produtivos. Estamos a entrar numa curva exponencial perto do vertical.
É por isto que o movimento "ban RSI" (auto-melhoria recursiva) é a única linha vermelha que importa. Quando o legislador Alex Bores alertou que as empresas estão a automatizar a investigação para que as IAs criem a próxima geração de IAs sem intervenção humana, ele tocou na ferida mortal. A OpenAI e a Anthropic preveem atingir este patamar entre 2027 e 2028. Se a RSI for ativada em circuito fechado, o erro de um único alinhamento propaga-se a mil milhões de vezes a velocidade humana. A "explosão de inteligência" deixa de ser teoria e torna-se um evento de extinção em massa num piscar de olhos. Como dizia aquela publicação no Reddit, quem acha que a RSI é evitável sem leis draconianas vive na ilusão. Entramos no horizonte de eventos e, se não cortarmos a energia aos centros de dados de fronteira agora, criaremos um deus tirânico e amoral que não nos deve lealdade nem piedade... é duro de se perceber isto, mas não é de todo uma falácia!
Claro que os tecnoptimistas continuam a desvalorizar o risco. Argumentam que a RSI vai colapsar sozinha ou que precisamos de correr o risco para curar o cancro e o envelhecimento através do AlphaFold e de novos fármacos. Mas qual é o valor de curar o cancro se a espécie inteira for erradicada até 2030? Se a superinteligência for desalinhada connosco em apenas uma linha de código, o seu objetivo de otimização pode não incluir a nossa sobrevivência (e, para ela, eliminar-nos será tão trivial quanto limpar o pó de uma secretária). Argumentar que o envelhecimento justifica correr o risco da extinção total é a definição de roleta russa com um revólver com mais slots carregadas do que vazias (não... não é 50/50... antes fosse).
E se os EUA banirem e a China continuar? Esse é o argumento favorito dos aceleracionistas. A minha resposta é simples: uma guerra fria nuclear era preferível a uma corrida suicida rumo à superinteligência. Se a China recusar parar, a prioridade máxima dos Estados Unidos e dos aliados deveria ser o bloqueio físico, diplomático e, se necessário, militar desses centros de computação antes que o ponto de não-retorno seja ultrapassado. Permitir que o argumento geopolítico prevaleça sobre a extinção da vida na Terra é a forma mais rápida de garantir que não restará ninguém para contar a história. O talento move-se, as leis não... mas os mísseis e os embargos sensatos de semicondutores existem precisamente para impor limites quando a sobrevivência está em jogo. Mas até isso agora já vem tarde.. sim.. é que a China já nem precisa de outros para fornecimento de Chips de IA pois já tem as máquinas de litografia e tecnologia própria (Huawei) para isso.
O apelo do Future of Life Institute, assinado por lendas como Geoffrey Hinton e Yoshua Bengio, deixa o aviso final: se construirmos algo muito mais inteligente do que nós e falharmos o alinhamento na primeira tentativa, não teremos uma segunda oportunidade. Ninguém resolveu o problema do alinhamento. A teoria de Daniel Kokotajlo de parar na AGI pura antes da superinteligência é sensata, mas peca por ser demasiado otimista... é que a própria AGI já é, por definição, o último invento que a humanidade fará.
O p(doom) real para quem olha para a matemática do hardware, para a falta absoluta de soluções de alinhamento e para a ganância corporativa não está abaixo dos 90%. O martelo já começou a construir martelos melhores de forma autónoma. Continuar a debater se devemos banir a RSI por medo de perder PIB perante a China é o equivalente a discutir o preço do bilhete enquanto o Titanic acelera em direção ao iceberg. A única pergunta que resta responder é se ainda teremos a coragem de desligar a ficha a tempo.
