hqq-quantization

作者: firecrawl

大语言模型的半二次量化,无需校准数据。适用于在不需要校准数据集的情况下将模型量化为4/3/2位精度,以实现快速…

npx skills add https://github.com/firecrawl/ai-research-skills --skill hqq-quantization