Flash‑Next, sin el cuello de botella.
MoE Expert Cache transformó una lane de 76.1 GiB: de 1.57 a un máximo medido de 37.92 tokens/s de decode, manteniendo contexto de 128K en la Corsair AI Workstation 300.
La mejora es real. El alcance también.
La aceleración se midió en repeticiones fresh‑load con exactitud de contenido 3/3 por escalón. No es un score universal de calidad ni una promesa para cualquier hardware. Architect continúa como default protegido; Flash‑Next se activa sólo para trabajo gobernado que justifique su perfil pesado.
Decode: la escalera completa.
Los escalones combinan crecimiento de contexto y capacidad de caché. Decode mide generación; no debe confundirse con ingestión del prompt.
Unidad: tokens/s de decodeExactitud: 3/3 por escalónMTP: 78–79% aceptación
Prefill: ingestión por separado.
Dos muestras observadas. Se publican como aproximaciones individuales, no como promedio combinado con decode.
Qué prueba y qué no.
Las decisiones operativas siguen una jerarquía: medición reproducible, utilidad observable y límites publicados.
Sí prueba
Throughput fechado, exactitud de contenido por escalón y estabilidad del gate de trece ejecuciones.
No prueba
Calidad universal, rendimiento en otro equipo ni superioridad absoluta frente a todas las lanes.
Estado operativo
Flash‑Next está disponible bajo demanda hasta 64K. Architect permanece como default; 128K se publica únicamente como evidencia de benchmark profundo.
Explora los datos y el harness público.
Abrir repositorio ↗Fuente pública estructurada: flash-next-expert-cache-20260912.json. Dirección de benchmark y evaluación: N30 · FreakingJSON.