用於大型語言模型的半二次量化,無需校準資料。在將模型量化至4/3/2位元精度且無需校準資料集時使用,以實現快速…
npx skills add https://github.com/firecrawl/ai-research-skills --skill hqq-quantization