Demis Hassabis propõe uma entidade de normas para IA de fronteira
Demis Hassabis propõe uma entidade de normas para IA de fronteira
Demis Hassabis, CEO da Google DeepMind, propôs a criação de uma entidade de normas independente para avaliar modelos de IA de fronteira antes do lançamento. A ideia aproxima a governação de IA do modelo de auto-regulação supervisionada usado pela FINRA no sector financeiro norte-americano.
Segundo a proposta divulgada por Hassabis, os laboratórios poderiam inicialmente partilhar voluntariamente os seus modelos com a entidade até 30 dias antes da disponibilização. Se os protocolos demonstrassem eficácia, o processo poderia evoluir para uma exigência formal no mercado dos Estados Unidos.
A entidade avaliaria capacidades e vulnerabilidades relevantes, definiria boas práticas de lançamento e trabalharia com os laboratórios na resposta a problemas críticos detectados após a disponibilização. Não se trata, por enquanto, de uma instituição criada ou aprovada pelo governo.
O ponto forte da proposta é o reconhecimento de que avaliações técnicas de modelos avançados exigem competência especializada. Processos ad hoc, opacos ou exclusivamente políticos têm dificuldade em acompanhar sistemas que mudam rapidamente.
Hassabis sugere um organismo com apoio público, financiamento da indústria e operação independente. Este desenho procura combinar capacidade técnica com velocidade, mas cria imediatamente uma questão de governação: como impedir que os financiadores condicionem quem os avalia?
A comparação com a FINRA deve ser feita com prudência. A FINRA é uma organização de auto-regulação no mercado financeiro dos EUA, sob supervisão da SEC, e resulta de regras e práticas acumuladas durante décadas. A IA de fronteira ainda não tem padrões de risco equivalentes e estabilizados.
Uma entidade credível teria de proteger avaliações contra preparação específica para testes conhecidos. Precisaria de métodos reservados, auditorias independentes, critérios actualizados e capacidade de avaliar sistemas completos, incluindo ferramentas, memória, agentes e integrações externas.
Também teria de evitar confundir conformidade com segurança absoluta. Passar numa bateria de testes reduz incerteza, mas não prova que um modelo não apresentará comportamentos inesperados ou que uma aplicação construída sobre ele será segura.
A proposta surge numa altura em que laboratórios usam cada vez mais os seus próprios modelos para investigação, programação e segurança. Isso torna a avaliação externa mais importante, não menos: a velocidade dos ciclos internos não deve reduzir a possibilidade de escrutínio público.
Não há consenso sobre a melhor arquitectura regulatória. Mas a proposta de Hassabis torna explícita uma pergunta que já não pode ser adiada: quem testa modelos de maior capacidade, com que critérios e perante que responsabilidade? Uma resposta credível terá de ser técnica, independente e internacionalmente debatida.
