firecrawl-crawl

tarafından firecrawl

Bir web sitesinin tamamından veya site bölümünden toplu içerik çıkarın. Kullanıcı bir siteyi taramak, dokümantasyon bölümündeki tüm sayfaları çıkarmak istediğinde bu beceriyi kullanın,…

npx skills add https://github.com/firecrawl/firecrawl-codex-plugin --skill firecrawl-crawl

firecrawl crawl

Bulk extract content from a website. Crawls pages following links up to a depth/limit.

When to use

  • You need content from many pages on a site (e.g., all /docs/)
  • You want to extract an entire site section
  • Step 4 in the workflow escalation pattern: search → scrape → map → crawl → interact

Quick start

# Crawl a docs section
firecrawl crawl "<url>" --include-paths /docs --limit 50 --wait -o .firecrawl/crawl.json

# Full crawl with depth limit
firecrawl crawl "<url>" --max-depth 3 --wait --progress -o .firecrawl/crawl.json

# Check status of a running crawl
firecrawl crawl <job-id>

Options

OptionDescription
--waitWait for crawl to complete before returning
--progressShow progress while waiting
--limit <n>Max pages to crawl
--max-depth <n>Max link depth to follow
--include-paths <paths>Only crawl URLs matching these paths
--exclude-paths <paths>Skip URLs matching these paths
--delay <ms>Delay between requests
--max-concurrency <n>Max parallel crawl workers
--prettyPretty print JSON output
-o, --output <path>Output file path

Tips

  • Always use --wait when you need the results immediately. Without it, crawl returns a job ID for async polling.
  • Use --include-paths to scope the crawl — don't crawl an entire site when you only need one section.
  • Crawl consumes credits per page. Check firecrawl credit-usage before large crawls.

See also

firecrawl tarafından daha fazla skill

firecrawl-research-index
firecrawl
Firecrawl Research ile bir araştırma sorgusunu yanıtlayan makaleleri bulun; anlamsal arama, anlamsal ve yapısal genişletme ve gövde içi doğrulama kullanarak. Bu beceriyi her zaman herhangi bir literatür bulma / makale alma görevi için kullanın — tek makale aramaları veya tam çoklu makale setleri.
data-analysisresearchweb-scraping
oracle
firecrawl
oracle CLI kullanımı için en iyi uygulamalar (istemci + dosya paketleme, motorlar, oturumlar ve dosya ekleme desenleri).
pinecone
firecrawl
Üretken yapay zeka uygulamaları için yönetilen vektör veritabanı. Tamamen yönetilen, otomatik ölçeklenen, hibrit arama (yoğun + seyrek), meta veri filtreleme ve ad alanları ile birlikte gelir.…
wpds
firecrawl
WordPress Tasarım Sistemi (WPDS) ve bileşenleri, tokenları, desenleri vb. kullanarak kullanıcı arayüzleri oluştururken kullanın.
audiocraft-audio-generation
firecrawl
Metin tabanlı müzik (MusicGen) ve ses (AudioGen) oluşturma dahil olmak üzere ses üretimi için PyTorch kütüphanesi. Metinden müzik oluşturmanız gerektiğinde kullanın…
skypilot-multi-cloud-orchestration
firecrawl
Çoklu bulut üzerinde ML iş yükleri için otomatik maliyet optimizasyonu ile orkestrasyon. Birden fazla bulutta eğitim veya toplu işler çalıştırmanız gerektiğinde kullanın, yararlanın…
firecrawl-seo-audit
firecrawl
Bir web sitesinin SEO'sunu Firecrawl ile denetleyin. Kullanıcı SEO denetimi, meta veri ve başlık incelemesi, site haritası/site yapısı analizi, anahtar kelime fırsatları, rakip SERP karşılaştırması veya önceliklendirilmiş arama optimizasyonu önerileri istediğinde kullanın.
data-analysisresearchweb-scraping
gh-issues
firecrawl
GitHub sorunlarını getir, düzeltmeleri uygulamak ve PR'lar açmak için alt ajanlar oluştur, ardından PR inceleme yorumlarını izle ve yanıtla. Kullanım: /gh-issues [sahip/depo] [--etiket…]