noname (@malikwas1f)3090 GPU에서 Dflash와 TurboQuant를 병합해 Q5 양자화(quants)를 사용할 수 있게 됐다는 소식입니다. 3090 사용자에게 추가 양자화 조합이 열렸고, 관련...

noname (@malikwas1f)3090 GPU에서 Dflash와 TurboQuant를 병합해 Q5 양자화(quants)를 사용할 수 있게 됐다는 소식입니다. 3090 사용자에게 추가 양자화 조합이 열렸고, 관련 레시피가 GitHub 프로젝트로 공유되고 있습니다.https://x.com/malikwas1f/status/2058455522605703463#gpu #quantization #llm #3090 #opensource

Read Original

Related