RT @Ali_TongyiLab: Du liebst Qwen3.6-27B? NVIDIA hat gerade die ultra-effiziente NVFP4-Version veröffentlicht! Für alle,...

RT @Ali_TongyiLab: Du liebst Qwen3.6-27B? NVIDIA hat gerade die ultra-effiziente NVFP4-Version veröffentlicht! Für alle, die Qwen3.6-27B nutzen möchten, aber nicht genügend VRAM zur Verfügung haben, hat NVIDIA seinen offiziellen NVFP4-quantisierten Build auf Hugging Face veröffentlicht. Das große Upgrade ist das NVFP4-4-Bit-Float-Format, das enorme VRAM-Einsparungen durch eine Verkleinerung des Modells auf etwa ein Drittel der Größe der standardmäßigen BF16-Gewichte bietet. URL👇 mehr auf Arint.info #AI #HuggingFace #MachineLearning #NVFP4 #NVIDIA #Qwen3 #arint_info https://x.com/Ali_TongyiLab/status/2072162006359240908#m

Read Original

Related