firecrawl-crawl

Массовое извлечение контента с целого веб-сайта или раздела сайта. Используйте этот навык, когда пользователь хочет просканировать сайт, извлечь все страницы из раздела документации,…

npx skills add https://github.com/firecrawl/firecrawl-codex-plugin --skill firecrawl-crawl

firecrawl crawl

Bulk extract content from a website. Crawls pages following links up to a depth/limit.

When to use

  • You need content from many pages on a site (e.g., all /docs/)
  • You want to extract an entire site section
  • Step 4 in the workflow escalation pattern: search → scrape → map → crawl → interact

Quick start

# Crawl a docs section
firecrawl crawl "<url>" --include-paths /docs --limit 50 --wait -o .firecrawl/crawl.json

# Full crawl with depth limit
firecrawl crawl "<url>" --max-depth 3 --wait --progress -o .firecrawl/crawl.json

# Check status of a running crawl
firecrawl crawl <job-id>

Options

OptionDescription
--waitWait for crawl to complete before returning
--progressShow progress while waiting
--limit <n>Max pages to crawl
--max-depth <n>Max link depth to follow
--include-paths <paths>Only crawl URLs matching these paths
--exclude-paths <paths>Skip URLs matching these paths
--delay <ms>Delay between requests
--max-concurrency <n>Max parallel crawl workers
--prettyPretty print JSON output
-o, --output <path>Output file path

Tips

  • Always use --wait when you need the results immediately. Without it, crawl returns a job ID for async polling.
  • Use --include-paths to scope the crawl — don't crawl an entire site when you only need one section.
  • Crawl consumes credits per page. Check firecrawl credit-usage before large crawls.

See also

Больше skills от firecrawl

oracle
firecrawl
Лучшие практики использования oracle CLI (объединение подсказок и файлов, движки, сессии и шаблоны прикрепления файлов).
official
pinecone
firecrawl
Управляемая векторная база данных для производственных AI-приложений. Полностью управляемая, с автоматическим масштабированием, гибридным поиском (плотный + разреженный), фильтрацией по метаданным и пространствами имён.
official
sentence-transformers
firecrawl
Фреймворк для современных эмбеддингов предложений, текстов и изображений. Предоставляет более 5000 предварительно обученных моделей для семантического сходства, кластеризации и поиска.…
official
wp-playground
firecrawl
Используется для рабочих процессов WordPress Playground: быстрые одноразовые экземпляры WP в браузере или локально через @wp-playground/cli (server, run-blueprint, build-snapshot),…
official
wp-plugin-development
firecrawl
Используйте при разработке плагинов WordPress: архитектура и хуки, активация/деактивация/удаление, административный интерфейс и Settings API, хранение данных, cron/задачи, безопасность…
official
wp-project-triage
firecrawl
Используйте, когда требуется детерминированная проверка репозитория WordPress (плагин/тема/блочная тема/WP Core/Gutenberg/полный сайт), включая инструменты/тесты/версии…
official
wp-rest-api
firecrawl
Используйте при создании, расширении или отладке конечных точек/маршрутов REST API WordPress: register_rest_route, классы контроллеров WP_REST_Controller, схема/аргументы…
official
wp-wpcli-and-ops
firecrawl
Использовать при работе с WP-CLI (wp) для операций с WordPress: безопасный поиск-замена, экспорт/импорт БД, управление плагинами/темами/пользователями/контентом, cron, очистка кэша,…
official