hqq-quantization
โดย firecrawl
การควอนไทซ์แบบ Half-Quadratic สำหรับ LLMs โดยไม่ต้องใช้ข้อมูลปรับเทียบ ใช้เมื่อต้องการควอนไทซ์โมเดลให้มีความแม่นยำ 4/3/2 บิต โดยไม่ต้องใช้ชุดข้อมูลปรับเทียบ เพื่อความรวดเร็ว…
npx skills add https://github.com/firecrawl/ai-research-skills --skill hqq-quantization