hqq-quantization
bởi firecrawl
Lượng tử hóa Bán-Bậc Hai cho các mô hình ngôn ngữ lớn mà không cần dữ liệu hiệu chuẩn. Sử dụng khi lượng tử hóa mô hình xuống độ chính xác 4/3/2-bit mà không cần tập dữ liệu hiệu chuẩn, để nhanh chóng…
npx skills add https://github.com/firecrawl/ai-research-skills --skill hqq-quantization