firecrawl-crawl

作者: firecrawl

從整個網站或網站區塊大量提取內容。當使用者想要爬取網站、提取文件區塊中的所有頁面時,請使用此技能。

npx skills add https://github.com/firecrawl/firecrawl-codex-plugin --skill firecrawl-crawl

firecrawl crawl

Bulk extract content from a website. Crawls pages following links up to a depth/limit.

When to use

  • You need content from many pages on a site (e.g., all /docs/)
  • You want to extract an entire site section
  • Step 4 in the workflow escalation pattern: search → scrape → map → crawl → interact

Quick start

# Crawl a docs section
firecrawl crawl "<url>" --include-paths /docs --limit 50 --wait -o .firecrawl/crawl.json

# Full crawl with depth limit
firecrawl crawl "<url>" --max-depth 3 --wait --progress -o .firecrawl/crawl.json

# Check status of a running crawl
firecrawl crawl <job-id>

Options

OptionDescription
--waitWait for crawl to complete before returning
--progressShow progress while waiting
--limit <n>Max pages to crawl
--max-depth <n>Max link depth to follow
--include-paths <paths>Only crawl URLs matching these paths
--exclude-paths <paths>Skip URLs matching these paths
--delay <ms>Delay between requests
--max-concurrency <n>Max parallel crawl workers
--prettyPretty print JSON output
-o, --output <path>Output file path

Tips

  • Always use --wait when you need the results immediately. Without it, crawl returns a job ID for async polling.
  • Use --include-paths to scope the crawl — don't crawl an entire site when you only need one section.
  • Crawl consumes credits per page. Check firecrawl credit-usage before large crawls.

See also

來自 firecrawl 的更多技能

firecrawl-research-index
firecrawl
使用 Firecrawl Research 進行語義搜尋、語義與結構擴展以及內文驗證,找出能回答研究查詢的論文。對於任何文獻查找或論文檢索任務(無論是單篇論文查詢還是完整的多論文集合),一律使用此技能。
data-analysisresearchweb-scraping
oracle
firecrawl
使用 oracle CLI 的最佳實踐(提示與檔案捆綁、引擎、會話及檔案附加模式)。
pinecone
firecrawl
專為生產級AI應用設計的受管向量資料庫。全受管、自動擴展,具備混合搜尋(密集+稀疏)、元資料過濾與命名空間功能。…
wpds
firecrawl
在構建利用WordPress設計系統(WPDS)及其組件、標記、模式等的用戶界面時使用。
audiocraft-audio-generation
firecrawl
用於音訊生成的 PyTorch 函式庫,包含文字轉音樂(MusicGen)和文字轉音效(AudioGen)。當需要從文字生成音樂時使用…
skypilot-multi-cloud-orchestration
firecrawl
針對機器學習工作負載的多雲編排,具備自動成本優化功能。當您需要跨多個雲端執行訓練或批次作業、利用…時使用。
firecrawl-seo-audit
firecrawl
使用 Firecrawl 審查網站的 SEO。適用於使用者要求進行 SEO 審查、中繼資料與標題檢視、網站地圖/網站結構分析、關鍵字機會、競爭對手 SERP 比較,或優先搜尋最佳化建議時。
data-analysisresearchweb-scraping
gh-issues
firecrawl
擷取 GitHub 問題,生成子代理來實作修復並開啟 PR,然後監控並處理 PR 審查意見。用法:/gh-issues [owner/repo] [--label…