金のニワトリ (@gosrum)Mistral-Medium-3.5-128B의 GGUF 지원이 아직 진행 중이라고 언급했으며, Mac Studio에서 Q4_K_XL을 로드할 때 메모리 부족으로 재시작이 발생했다고 보고했습...

金のニワトリ (@gosrum)Mistral-Medium-3.5-128B의 GGUF 지원이 아직 진행 중이라고 언급했으며, Mac Studio에서 Q4_K_XL을 로드할 때 메모리 부족으로 재시작이 발생했다고 보고했습니다. 모델 배포 호환성과 로컬 실행 한계를 보여주는 내용입니다.https://x.com/gosrum/status/2049645163132354957#mistral #gguf #macstudio #llm #localai

Read Original

Related