firecrawl-crawl

Extraia conteúdo em massa de um site inteiro ou de uma seção do site. Use esta habilidade quando o usuário quiser rastrear um site, extrair todas as páginas de uma seção de documentação,…

npx skills add https://github.com/firecrawl/firecrawl-codex-plugin --skill firecrawl-crawl

firecrawl crawl

Bulk extract content from a website. Crawls pages following links up to a depth/limit.

When to use

  • You need content from many pages on a site (e.g., all /docs/)
  • You want to extract an entire site section
  • Step 4 in the workflow escalation pattern: search → scrape → map → crawl → interact

Quick start

# Crawl a docs section
firecrawl crawl "<url>" --include-paths /docs --limit 50 --wait -o .firecrawl/crawl.json

# Full crawl with depth limit
firecrawl crawl "<url>" --max-depth 3 --wait --progress -o .firecrawl/crawl.json

# Check status of a running crawl
firecrawl crawl <job-id>

Options

OptionDescription
--waitWait for crawl to complete before returning
--progressShow progress while waiting
--limit <n>Max pages to crawl
--max-depth <n>Max link depth to follow
--include-paths <paths>Only crawl URLs matching these paths
--exclude-paths <paths>Skip URLs matching these paths
--delay <ms>Delay between requests
--max-concurrency <n>Max parallel crawl workers
--prettyPretty print JSON output
-o, --output <path>Output file path

Tips

  • Always use --wait when you need the results immediately. Without it, crawl returns a job ID for async polling.
  • Use --include-paths to scope the crawl — don't crawl an entire site when you only need one section.
  • Crawl consumes credits per page. Check firecrawl credit-usage before large crawls.

See also

Mais skills de firecrawl

firecrawl-research-index
firecrawl
Encontre os artigos que respondem a uma consulta de pesquisa com o Firecrawl Research, utilizando busca semântica, expansão semântica e estrutural, e verificação no corpo do texto. Use sempre esta habilidade para qualquer tarefa de localização de literatura ou recuperação de artigos — consultas de um único artigo ou conjuntos completos de múltiplos artigos.
data-analysisresearchweb-scraping
oracle
firecrawl
Melhores práticas para usar a CLI do oracle (prompt + agrupamento de arquivos, engines, sessões e padrões de anexo de arquivos).
pinecone
firecrawl
Banco de dados vetorial gerenciado para aplicações de IA em produção. Totalmente gerenciado, com escalonamento automático, busca híbrida (densa + esparsa), filtragem por metadados e namespaces.…
wpds
firecrawl
Use ao construir UIs que utilizam o WordPress Design System (WPDS) e seus componentes, tokens, padrões, etc.
audiocraft-audio-generation
firecrawl
Biblioteca PyTorch para geração de áudio, incluindo texto para música (MusicGen) e texto para som (AudioGen). Use quando precisar gerar música a partir de texto…
skypilot-multi-cloud-orchestration
firecrawl
Orquestração multi-cloud para cargas de trabalho de ML com otimização automática de custos. Use quando precisar executar treinamento ou jobs em lote em múltiplas nuvens, aproveitar…
firecrawl-seo-audit
firecrawl
Audite o SEO de um site com Firecrawl. Use quando o usuário solicitar uma auditoria de SEO, revisão de metadados e cabeçalhos, análise de sitemap/estrutura do site, oportunidades de palavras-chave, comparação de SERP de concorrentes ou recomendações priorizadas de otimização de busca.
data-analysisresearchweb-scraping
gh-issues
firecrawl
Buscar issues do GitHub, criar subagentes para implementar correções e abrir PRs, depois monitorar e tratar comentários de revisão dos PRs. Uso: /gh-issues [owner/repo] [--label…