LFM2.5 24B-A2B: testamos no PC

O irmão grande do LFM2.5 2.6B, feito pela Liquid AI para agentes de IA rodando no próprio computador. Usa uma versão de 4 bits treinada para perder pouca precisão (QAD), cabe inteiro numa placa de 16 GB com 96 mil tokens de contexto e passou de 230 tokens por segundo aqui.

Leia a análise: LFM2.5-24B-A2B: o modelo da Liquid AI para agente de IA local que cabe numa placa de 16 GB

Fabricante

Liquid AI

Arquitetura

MoE híbrido (convolução + atenção) · 24 bi de parâmetros, cerca de 2 bi ativos

Licença

LFM 1.0

Recursos

raciocínio

Quantização testada

QAD-Q4_0

Tamanho do arquivo

13,6 GB

Placas

1 placa (RX 9070 XT, 16 GB)

Contexto

96k

Hugging Face

Página oficial no Hugging Face

Velocidade medida

Maior velocidade: 227,0 tokens por segundo. Mediana: 214,2 tokens por segundo.

Medido no nosso PC (i5-14600KF, 64 GB de RAM), sem nuvem.

Resultado em cada teste

Jogos que este modelo criou

• VOO LIVRE — jogo do passarinho que desvia de colunas · Jogar
• HEXÁGONO — bolas quicando dentro de um hexágono que gira · Jogar
• BOMBA LAB — clone de Bomberman em 2 fases (v6) · Jogar
• VOO LIVRE — jogo do passarinho que desvia de colunas · nota 8/10 · Ver e jogar
• HEXÁGONO — bolas quicando dentro de um hexágono que gira · nota 8/10 · Ver e jogar
• BOMBA LAB — clone de Bomberman em 2 fases (v6) · nota 8/10 · Ver e jogar
• CORREDOR 3D — tiro em primeira pessoa com raycasting · nota 8/10 · Ver e jogar