DiffusionGemma: geração paralela de texto em bloco e porquê de já ser relevante
DiffusionGemma: geração paralela de texto em bloco e porquê de já ser relevante
A Google lançou um modelo aberto que altera a abordagem à geração de texto. O DiffusionGemma, disponibilizado a 10 de junho de 2026 sob licença Apache 2.0, parte da família Gemma 4 e demonstra que a inferência pode deixar de ser um encadeamento estritamente sequencial.
Essa abordagem paralela resolve um problema concreto do hardware local: a largura de banda de memória. Num autogerador causal, a GPU tem de recarregar os pesos para cada token gerado, pelo que grande parte do chip fica em espera. Ao operar sobre um bloco completo, a carga paralela ocupa os tensor cores que, no caso de inferência para um só utilizador, estariam subaproveitados.
O resultado é uma taxa medida superior a 1000 tokens por segundo num H100 e acima de 700 tokens por segundo numa RTX 5090. O segundo número é o mais relevante para o mercado actual, pois refere-se a uma placa que existe em larga escala nos consumidores finais. Mas isto não é um ganho gratuito: há uma troca clara entre velocidade e qualidade. Nos benchmarks analisados, o DiffusionGemma fica entre 5 e 19 pontos abaixo do Gemma 4 26B padrão. MMLU Pro passa de 82,6% para 77,6%, AIME 2026 de 88,3% para 69,1%, LiveCodeBench de 77,1% para 69,1% e GPQA Diamond de 82,3% para 73,2%. O único teste onde vence é o Humanity's Last Exam sem ferramentas, com 11% contra 8,7%.
Essa diferença justifica que a Google classifique o modelo como experimental e recomende o Gemma 4 26B convencional a quem precise de qualidade máxima. A aceleração também tem limites funcionais: em servidores de cloud muito solicitados, os autogeradores beneficiam de batchs grandes e ocupam melhor o hardware; aqui o ganho diminui e pode até tornar o serviço mais caro.
Além disso, arquitecturas de memória unificada como o Apple Silicon, onde o factor limitador é a própria largura de banda, não tiram o mesmo proveito. O alvo declarado é um utilizador com GPU dedicada, local, em operação de baixa concorrência.
As características mais interessantes vão para além da velocidade. Dentro de cada bloco, a atenção é bidirecional: todos os tokens se podem ver uns aos outros, não só para trás. Isso permite autocorreção em tempo real, ou seja, um token considerado menos seguro pode ser "re-noisado" e reavaliado nas passes seguintes.
Esta propriedade abre caminho a tarefas onde o resultado não é naturalmente da esquerda para a direita. O exemplo apresentado oficialmente é Sudoku, onde a impressão sequencial dificulta o raciocínio em função de restrições futuras. O modelo base resolvia 0% dos puzzles, mas basta uma receita de fine-tuning simples com a biblioteca JAX para chegar a 80% de sucesso, com paragem adaptativa que reduz o número de passos.
A geração em bloco também ajuda em cenários como preenchimento de codigo, edição no meio de um documento, fecho de estruturas markdown ou geração de sequencias biológicas... qualquer tarefa com dependencias bidirecionais.
Cloud ou local, o ecossistema de ferramentas ja esta montado. Os pesos estao disponíveis no Hugging Face, com suporte oficial em Transformers, vLLM, SGLang e MLX para Mac. Para quantização, versoes oficiais em NVFP4 cabem em menos de 18 GB de VRAM, o que permite rodar o modelo em placas como RTX 4090, RTX 5090 e DGX Spark. O suporte a llama.cpp esta previsto.
Múltiplas conversações exigem uma cautela adicional: no modo thinking, o histórico deve manter apenas as respostas finais; se o conteúdo de pensamento for preservado diretamente, a qualidade degrada com o turno.
O DiffusionGemma não substitui um modelo de produção: e uma ferramenta complementar. A sua verdadeira vantagem esta em fluxos interactivos, locais e com latencia critica: autocompletar em editores, geração ao vivo de codigo, re-escrita inline ou interfaces onde a velocidade e a experiencia principal.
E isolado na sua classe, pois nenhum modelo aberto corrente oferece difusão de texto em larga escala com suporte tao amplo no primeiro dia. Ver o paragrafo inteiro materializar-se a partir de ruido numa canvas e, de facto, uma sensação diferente da token stream habitual.
