optimizing-attention-flash
โดย firecrawl
ปรับแต่งความสนใจของทรานส์ฟอร์มเมอร์ด้วย Flash Attention เพื่อเพิ่มความเร็ว 2-4 เท่า และลดการใช้หน่วยความจำ 10-20 เท่า ใช้เมื่อฝึกหรือรันทรานส์ฟอร์มเมอร์ที่มีลำดับยาว…
npx skills add https://github.com/firecrawl/ai-research-skills --skill optimizing-attention-flash