Ivan Fioravanti ᯅ (@ivanfioravanti)플랫폼별로 권장되는 샘플링 설정을 중앙 저장소에서 API로 가져와 벤치마킹에 활용하는 시스템이 거의 완성됐다고 알린다. temperature, top-p...

Ivan Fioravanti ᯅ (@ivanfioravanti)플랫폼별로 권장되는 샘플링 설정을 중앙 저장소에서 API로 가져와 벤치마킹에 활용하는 시스템이 거의 완성됐다고 알린다. temperature, top-p, top-k, min-p 기본값을 제공해 모델 평가와 실험 재현성을 높일 수 있다.https://x.com/ivanfioravanti/status/2045160329785598231#sampling #benchmarking #api #llm #evaluation

Read Original

Related