hqq-quantization
tarafından firecrawl
Kalibrasyon verisi olmadan LLM'ler için Yarı-İkinci Dereceden Niceleme. Kalibrasyon veri kümelerine ihtiyaç duymadan modelleri 4/3/2-bit hassasiyetinde nicelemek için kullanılır, hızlı…
npx skills add https://github.com/firecrawl/ai-research-skills --skill hqq-quantization