serving-llms-vllm
von firecrawl
Bietet LLMs mit hohem Durchsatz durch vLLMs PagedAttention und kontinuierliches Batching. Verwenden Sie dies beim Bereitstellen von Produktions-LLM-APIs, Optimieren der Inferenz…
npx skills add https://github.com/firecrawl/ai-research-skills --skill serving-llms-vllm