serving-llms-vllm

作者: firecrawl

使用 vLLM 的 PagedAttention 和連續批次處理,以高吞吐量服務大型語言模型。適用於部署生產級 LLM API、優化推論…

npx skills add https://github.com/firecrawl/ai-research-skills --skill serving-llms-vllm

來自 firecrawl 的更多技能