Nanbeige4.3 33B: testamos no PC

Modelo do Nanbeige LLM Lab, a equipe de pesquisa do BOSS Zhipin, um aplicativo chinês de vagas de emprego, lançado em 25/10/2026 com licença Apache 2.0. É denso (usa os 33 bilhões de parâmetros a cada palavra) e pensa antes de responder. Para caber nas nossas duas placas com 96 mil tokens de contexto, guardamos a memória da conversa comprimida em 4 bits (KV q4). Cumpriu 4 dos 5 critérios do teste de agente, mas não entregou nenhum jogo: o raciocínio gastou todo o limite de 32 mil tokens antes de escrever o código, e nos testes sem harness passou de 2 horas sem terminar. A escrita caiu de cerca de 11 para 5 a 7 tokens por segundo nas respostas longas. Usamos temperatura 0.6 em tudo; o fabricante recomenda 1.0 para tarefas de agente.

Fabricante

Nanbeige LLM Lab (BOSS Zhipin)

Arquitetura

Denso · 33 bi de parâmetros, todos ativos

Licença

Apache 2.0

Recursos

raciocínio, ferramentas, contexto de 512 mil tokens

Quantização testada

Q4_K_M

Tamanho do arquivo

20,8 GB

Placas

2 placas (RX 9070 XT + Arc B580, 28 GB)

Contexto

96k

Hugging Face

Página oficial no Hugging Face

Velocidade medida

Maior velocidade: 11,3 tokens por segundo. Mediana: 7,0 tokens por segundo.

Medido no nosso PC (i5-14600KF, 64 GB de RAM), sem nuvem.

Resultado em cada teste