Gemma 4 31B: testamos no PC

O maior modelo da família Gemma 4, treinado para funcionar bem comprimido (QAT). É denso: usa os 31 bilhões de parâmetros a cada palavra, por isso é mais lento que a Gemma 26B, que é MoE. Não cabe numa placa de 16 GB e roda nas duas placas de vídeo. Aqui ele roda com um pequeno modelo auxiliar (MTP) que adianta duas palavras de cada vez para o principal só conferir: a escrita subiu de cerca de 22 para 25 a 30 tokens por segundo nos testes, sem mudar a resposta.

Fabricante

Google

Arquitetura

Denso · 31 bi de parâmetros

Licença

Apache 2.0

Recursos

visão, treino QAT

Quantização testada

Q4_0 QAT

Tamanho do arquivo

16,1 GB

Placas

2 placas (RX 9070 XT + Arc B580, 28 GB)

Contexto

90k

Hugging Face

Página oficial no Hugging Face

Velocidade medida

Maior velocidade: 29,9 tokens por segundo. Mediana: 24,6 tokens por segundo.

Medido no nosso PC (i5-14600KF, 64 GB de RAM), sem nuvem.

Resultado em cada teste

Jogos que este modelo criou

• VOO LIVRE — jogo do passarinho que desvia de colunas · Jogar
• HEXÁGONO — bolas quicando dentro de um hexágono que gira · Jogar
• BOMBA LAB — clone de Bomberman em 2 fases (v6) · Jogar
• CORREDOR 3D — tiro em primeira pessoa com raycasting · Jogar
• VOO LIVRE — jogo do passarinho que desvia de colunas · nota 8/10 · Ver e jogar
• HEXÁGONO — bolas quicando dentro de um hexágono que gira · nota 8/10 · Ver e jogar
• BOMBA LAB — clone de Bomberman em 2 fases (v6) · nota 8/10 · Ver e jogar
• CORREDOR 3D — tiro em primeira pessoa com raycasting · nota 7/10 · Ver e jogar