Spark-X2.6 4B: testamos no PC

Modelo pequeno, de 4 bilhões de parâmetros, feito para rodar no próprio aparelho e para tarefas de agente (usar ferramentas e seguir passos). Pensa antes de responder, com três níveis de raciocínio, e aceita textos muito longos. Foi treinado em inglês e chinês. Aqui ele roda numa placa só, com folga, e passou de 120 tokens por segundo.

Fabricante

SparkLLM (XHToken)

Arquitetura

4 bi de parâmetros

Licença

Apache 2.0

Recursos

raciocínio, ferramentas

Quantização testada

Q4_K_M

Tamanho do arquivo

2,6 GB

Placas

1 placa (RX 9070 XT, 16 GB)

Contexto

128k

Hugging Face

Página oficial no Hugging Face

Velocidade medida

Maior velocidade: 131,2 tokens por segundo. Mediana: 115,1 tokens por segundo.

Medido no nosso PC (i5-14600KF, 64 GB de RAM), sem nuvem.

Resultado em cada teste

Jogos que este modelo criou

• VOO LIVRE — jogo do passarinho que desvia de colunas · Jogar
• HEXÁGONO — bolas quicando dentro de um hexágono que gira · Jogar
• CORREDOR 3D — tiro em primeira pessoa com raycasting · Jogar
• VOO LIVRE — jogo do passarinho que desvia de colunas · nota 7/10 · Ver e jogar
• HEXÁGONO — bolas quicando dentro de um hexágono que gira · nota 8/10 · Ver e jogar
• BOMBA LAB — clone de Bomberman em 2 fases (v6) · nota 8/10 · Ver e jogar
• CORREDOR 3D — tiro em primeira pessoa com raycasting · nota 7/10 · Ver e jogar
• BOMBA LAB — clone de Bomberman em 2 fases (v6) · Jogar