firecrawl-crawl

작성자: firecrawl

전체 웹사이트 또는 사이트 섹션에서 깊이 및 경로 필터링을 통해 대량으로 콘텐츠를 추출합니다. 링크를 따라 페이지를 크롤링하며, 설정 가능한 깊이 제한과 페이지 수 제한, 경로 포함/제외 필터를 통해 추출 범위를 조정합니다. --wait 및 --progress 플래그를 통해 비동기 작업 폴링 또는 진행률 표시와 함께 동기 대기를 지원합니다. 에이전트 워크플로우 통합을 위해 동시성 제어, 요청 지연 및 JSON 출력 형식을 제공합니다. 검색 → 스크래핑 → ...의 4단계 에스컬레이션 패턴의 일부입니다.

npx skills add https://github.com/firecrawl/cli --skill firecrawl-crawl

ZIP 다운로드 GitHub

643

firecrawl crawl

Bulk extract content from a website. Crawls pages following links up to a depth/limit.

Prerequisite: crawl requires authentication (no keyless free tier); without credentials the CLI prompts an interactive login.

Quick start

# Crawl a docs section
firecrawl crawl "<url>" --include-paths /docs --limit 50 --wait -o .firecrawl/crawl.json

# Full crawl with depth limit
firecrawl crawl "<url>" --max-depth 3 --wait --progress -o .firecrawl/crawl.json

# Check status of a running crawl
firecrawl crawl <job-id>

Run firecrawl crawl --help for the full option list.

Done when: the crawl reaches a terminal status and the saved output under .firecrawl/ contains the expected pages.

Tips

Use --wait when you need the results immediately. It has no default timeout; use --timeout <seconds> to bound polling. Without --wait, crawl returns a job ID for async polling.
Scope crawls with --include-paths whenever the request names a section — crawl only the pages you need.
Crawl consumes credits per page. Check firecrawl credit-usage before large crawls (credit-usage requires authentication).