NVIDIA publiziert den DFlash-Draft-Head zu Kimi-K2.7-Code (DeepSeek-V3-Architektur, 32B aktiv, 256K Kontext). Er aktivie...

NVIDIA publiziert den DFlash-Draft-Head zu Kimi-K2.7-Code (DeepSeek-V3-Architektur, 32B aktiv, 256K Kontext). Er aktiviert das spekulative Dekodierung in vLLM auf Blackwell B200, wobei SPEED-Bench eine durchschnittliche Akzeptanzrate von 3,13 Tokens pro Draft-Schritt misst. Lizenz: N…https://huggingface.co/nvidia/Kimi-K2.7-Code-DFlash#KI #AI #LLM #AISyndicate

Read Original

Related