Firecrawl

官方

使用 Firecrawl 提取网页数据

你可以用 Firecrawl MCP 做什么?

  • 抓取已知网址的结构化数据 — 让AI使用firecrawl_scrape配合JSON模式从页面中提取特定字段(如名称、价格)。
  • 搜索网络获取信息 — 让AI通过firecrawl_search在网络上查找相关页面,并可选择抓取结果的完整内容。
  • 映射网站以发现其URL — 在决定抓取哪些页面之前,让AI使用firecrawl_map列出某个域名下所有已索引的URL。
  • 运行自主多源研究 — 让AI启动一个firecrawl_agent任务,独立浏览并收集数据,然后轮询firecrawl_agent_status获取结果。
  • 与动态页面交互 — 让AI使用firecrawl_interact在页面上执行点击、输入或导航操作,可指定URL或现有抓取会话。

文档

Firecrawl MCP 服务器

一个模型上下文协议 (MCP) 服务器,将 Firecrawl 引入兼容 MCP 的 AI 代理——搜索、抓取并与实时网络交互,获取干净、可供代理使用的上下文。

非常感谢 @vrknetha@knacklabs 的初步实现!

功能特性

  • 搜索网络并获取完整页面内容
  • 将任何 URL 抓取为干净、结构化的数据
  • 与页面交互——点击、导航和操作
  • 使用自主代理进行深度研究
  • 自动重试和速率限制
  • 支持云端和自托管
  • 支持 SSE

MCP.so 的游乐场Klavis AI 上试用我们的 MCP 服务器。

安装

托管 MCP(免密钥免费层)

无需设置即可连接到远程托管服务器:

https://mcp.firecrawl.dev/v2/mcp

在免密钥免费层上,scrapesearchinteract 无需 API 密钥即可工作(有速率限制)。其他工具,如 crawlmapagentextract,仍然需要密钥。

只要用户能够注册,最好使用 API 密钥或 OAuth。这样可以解锁完整的工具集和更高的限制。使用密钥时,请使用:

https://mcp.firecrawl.dev/{FIRECRAWL_API_KEY}/v2/mcp

有关设置详情,请参阅 MCP 服务器文档代理入门指南

仅搜索端点

一个只读、仅搜索的接口也托管在:

https://mcp.firecrawl.dev/v2/mcp-search

它公开了一组固定的六个只读工具:firecrawl_search 和五个 firecrawl_research_* 工具。它不执行页面内容获取,并拥有自己的 OAuth 身份;上述完整端点保持不变。有关完整约定,请参阅 docs/search-profile.md

使用 npx 运行

env FIRECRAWL_API_KEY=fc-YOUR_API_KEY npx -y firecrawl-mcp

手动安装

npm install -g firecrawl-mcp

在 Cursor 上运行

配置 Cursor 🖥️ 注意:需要 Cursor 版本 0.45.6+ 有关最新的配置说明,请参考 Cursor 官方文档中关于配置 MCP 服务器的部分: Cursor MCP 服务器配置指南

在 Cursor v0.48.6 中配置 Firecrawl MCP

  1. 打开 Cursor 设置
  2. 转到功能 > MCP 服务器
  3. 点击“+ 添加新的全局 MCP 服务器”
  4. 输入以下代码:
    {
      "mcpServers": {
        "firecrawl-mcp": {
          "command": "npx",
          "args": ["-y", "firecrawl-mcp"],
          "env": {
            "FIRECRAWL_API_KEY": "YOUR-API-KEY"
          }
        }
      }
    }
    

在 Cursor v0.45.6 中配置 Firecrawl MCP

  1. 打开 Cursor 设置
  2. 转到功能 > MCP 服务器
  3. 点击“+ 添加新 MCP 服务器”
  4. 输入以下内容:
    • 名称:“firecrawl-mcp”(或你喜欢的名称)
    • 类型:“command”
    • 命令:env FIRECRAWL_API_KEY=your-api-key npx -y firecrawl-mcp

如果你使用的是 Windows 并且遇到问题,请尝试 cmd /c "set FIRECRAWL_API_KEY=your-api-key && npx -y firecrawl-mcp"

your-api-key 替换为你的 Firecrawl API 密钥。如果你还没有,可以创建一个账户并从 https://www.firecrawl.dev/app/api-keys 获取。

添加后,刷新 MCP 服务器列表以查看新工具。Composer Agent 会在适当的时候自动使用 Firecrawl MCP,但你也可以通过描述你的网络抓取需求来明确请求它。通过 Command+L (Mac) 访问 Composer,选择提交按钮旁边的“Agent”,然后输入你的查询。

在 Windsurf 上运行

将此添加到你的 ./codeium/windsurf/model_config.json

{
  "mcpServers": {
    "mcp-server-firecrawl": {
      "command": "npx",
      "args": ["-y", "firecrawl-mcp"],
      "env": {
        "FIRECRAWL_API_KEY": "YOUR_API_KEY"
      }
    }
  }
}

使用可流式 HTTP 本地模式运行

要在本地使用可流式 HTTP 而不是默认的 stdio 传输来运行服务器:

env HTTP_STREAMABLE_SERVER=true FIRECRAWL_API_KEY=fc-YOUR_API_KEY npx -y firecrawl-mcp

使用 URL:http://localhost:3000/mcp

通过 Smithery 安装(旧版)

要通过 Smithery 为 Claude Desktop 自动安装 Firecrawl:

npx -y @smithery/cli install @mendableai/mcp-server-firecrawl --client claude

在 VS Code 上运行

对于一键安装,请点击下面的安装按钮之一...

Install with NPX in VS Code Install with NPX in VS Code Insiders

对于手动安装,请将以下 JSON 块添加到 VS Code 的用户设置 (JSON) 文件中。你可以通过按 Ctrl + Shift + P 并输入 Preferences: Open User Settings (JSON) 来完成此操作。

{
  "mcp": {
    "inputs": [
      {
        "type": "promptString",
        "id": "apiKey",
        "description": "Firecrawl API Key",
        "password": true
      }
    ],
    "servers": {
      "firecrawl": {
        "command": "npx",
        "args": ["-y", "firecrawl-mcp"],
        "env": {
          "FIRECRAWL_API_KEY": "${input:apiKey}"
        }
      }
    }
  }
}

或者,你可以将其添加到工作区中名为 .vscode/mcp.json 的文件中。这将允许你与他人共享配置:

{
  "inputs": [
    {
      "type": "promptString",
      "id": "apiKey",
      "description": "Firecrawl API Key",
      "password": true
    }
  ],
  "servers": {
    "firecrawl": {
      "command": "npx",
      "args": ["-y", "firecrawl-mcp"],
      "env": {
        "FIRECRAWL_API_KEY": "${input:apiKey}"
      }
    }
  }
}

配置

环境变量

云端 API 必需

  • FIRECRAWL_API_KEY:你的 Firecrawl API 密钥
    • 使用云端 API 时必需(默认)
    • 使用带有 FIRECRAWL_API_URL 的自托管实例时可选
  • FIRECRAWL_API_URL(可选):自托管实例的自定义 API 端点
    • 示例:https://firecrawl.your-domain.com
    • 如果未提供,将使用云端 API(需要 API 密钥)

MCP OAuth(Bearer 访问令牌)

托管的 Firecrawl 可以通过 firecrawl.dev 上的授权服务器颁发 OAuth 访问令牌 (fco_…)。此 MCP 服务器将其解析到的任何凭据作为 Authorization: Bearer … 转发到 Firecrawl API。

  • HTTP 流传输 (CLOUD_SERVICE=trueHTTP_STREAMABLE_SERVER=trueSSE_LOCAL=true):客户端应在 MCP 请求上发送 Authorization: Bearer <fco_access_token>。当两者都存在时,OAuth bearer 令牌优先于 x-firecrawl-api-key / x-api-key
  • stdio: 使用 FIRECRAWL_OAUTH_TOKEN 获取静态访问令牌,或继续使用 FIRECRAWL_API_KEY 获取 API 密钥。

仅使用 访问 令牌 (fco_…)。刷新令牌 (fcr_…) 必须在令牌端点进行交换,不能传递给抓取/搜索 API。

仅搜索接口(托管)

在托管模式 (CLOUD_SERVICE=true) 下,第二个进程内实例服务于 仅搜索端点。捆绑服务具有固定的部署约定:nginx 将 /v2/mcp-search 路由到本地端口 3001 上的实例,并且 OAuth 受保护资源标识符是 https://mcp.firecrawl.dev/v2/mcp-search

FIRECRAWL_MCP_SEARCH_ENABLED(默认 true)是支持的操作开关;将其设置为 false 可阻止搜索实例启动。Node 进程还接受 FIRECRAWL_MCP_SEARCH_PORTFIRECRAWL_MCP_SEARCH_ENDPOINTFIRECRAWL_MCP_SEARCH_RESOURCE_URL 用于隔离测试。这些覆盖不会重新配置捆绑的 nginx 路由或授权服务器允许列表,并且不得在托管部署中独立使用。

搜索实例要求对每个请求进行身份验证(包括 tools/list),并拒绝受众与其自身资源不匹配的 OAuth 令牌。

配置示例

对于云端 API 使用:

export FIRECRAWL_API_KEY=your-api-key

对于自托管实例:

# Required for self-hosted
export FIRECRAWL_API_URL=https://firecrawl.your-domain.com

# Optional authentication for self-hosted
export FIRECRAWL_API_KEY=your-api-key  # If your instance requires auth

与 Claude Desktop 一起使用

将此添加到你的 claude_desktop_config.json

{
  "mcpServers": {
    "mcp-server-firecrawl": {
      "command": "npx",
      "args": ["-y", "firecrawl-mcp"],
      "env": {
        "FIRECRAWL_API_KEY": "YOUR_API_KEY_HERE"
      }
    }
  }
}

如何选择工具

使用本指南为你的任务选择合适的工具:

  • 如果你知道确切的 URL: 使用 scrape(使用 JSON 格式获取结构化数据)
  • 如果你有多个已知 URL: 为每个 URL 调用 scrape。如果你特别需要一个批量 API 操作,请在 MCP 之外使用 Firecrawl API 批量端点。
  • 如果你需要发现网站上的 URL: 使用 map
  • 如果你想在网络上搜索信息: 使用 search
  • 如果你需要跨多个未知来源进行复杂研究: 使用 agent
  • 如果你想分析整个网站或部分: 使用 crawl(有限制!)
  • 如果你需要交互式浏览器自动化(点击、输入、导航):使用 interact 并提供一个 URL 以获取新页面,或者当你已经抓取了页面或需要更严格的抓取控制时,使用 scrape + interact

快速参考表

工具最适合返回
scrape单页内容JSON(首选)或 markdown
interact与 URL 或已抓取页面交互执行结果 + URL 模式的 scrapeId
map发现网站上的 URLURL[]
crawl多页提取(有限制)内部轮询后的最终爬取状态/数据
parse文件和托管上传引用markdown、JSON 或文档输出
extract从 URL 进行结构化提取JSON 结构化数据
search网络搜索信息results[]
agent复杂的多源研究JSON(结构化数据)
monitor定期页面检查监控/检查元数据和差异
research论文和 GitHub 仓库研究研究结果和仓库匹配

格式选择指南

使用 scrape 时,请选择合适的格式:

  • JSON 格式(大多数情况下推荐): 当你需要从页面获取特定数据时使用。根据你需要提取的内容定义模式。这可以保持响应简洁,避免上下文窗口溢出。
  • Markdown 格式(谨慎使用): 仅当你确实需要完整页面内容时使用,例如阅读整篇文章以进行摘要或分析页面结构。

可用工具

1. 抓取工具 (firecrawl_scrape)

使用高级选项从单个 URL 抓取内容。

最适合:

  • 单页内容提取,当你确切知道哪个页面包含信息时。

不推荐用于:

  • 从多个页面提取内容(对已知 URL 使用重复的抓取调用,或先使用 map + scrape 发现 URL,或使用 crawl 获取完整页面内容)
  • 当你不确定哪个页面包含信息时(使用 search)

常见错误:

  • 将 URL 列表传递给一个抓取调用。在 MCP 中,每个 URL 调用一次抓取。如果你特别需要一个批量 API 操作,请在 MCP 之外使用 Firecrawl API 批量端点。
  • 默认使用 markdown 格式(使用 JSON 格式仅提取你需要的内容)。

选择合适的格式:

  • JSON 格式(首选): 对于大多数用例,使用带有模式的 JSON 格式仅提取所需的特定数据。这可以保持响应集中,防止上下文窗口溢出。
  • Markdown 格式: 仅当任务确实需要完整页面内容时(例如,总结整篇文章、分析页面结构)。

提示示例:

“从 https://example.com/product. 获取产品详细信息”

使用示例(JSON 格式 - 首选):

{
  "name": "firecrawl_scrape",
  "arguments": {
    "url": "https://example.com/product",
    "formats": [
      {
        "type": "json",
        "prompt": "Extract the product information",
        "schema": {
          "type": "object",
          "properties": {
            "name": { "type": "string" },
            "price": { "type": "number" },
            "description": { "type": "string" }
          },
          "required": ["name", "price"]
        }
      }
    ]
  }
}

使用示例(markdown 格式 - 需要完整内容时):

{
  "name": "firecrawl_scrape",
  "arguments": {
    "url": "https://example.com/article",
    "formats": ["markdown"],
    "onlyMainContent": true
  }
}

使用示例(品牌格式 - 提取品牌标识):

{
  "name": "firecrawl_scrape",
  "arguments": {
    "url": "https://example.com",
    "formats": ["branding"]
  }
}

品牌格式: 提取全面的品牌标识(颜色、字体、排版、间距、徽标、UI 组件),用于设计分析或风格复制。 隐私: 设置 redactPII: true 以返回经过编辑的个人身份信息内容。

返回:

  • JSON 结构化数据、markdown、品牌配置文件或指定的其他格式。

2. 地图工具 (firecrawl_map)

映射网站以发现网站上所有已索引的 URL。

最适合:

  • 在决定抓取什么之前发现网站上的 URL
  • 查找网站的特定部分

不推荐用于:

  • 当你已经知道需要哪个特定 URL 时(使用 scrape)
  • 当你需要页面内容时(在映射后使用 scrape)

常见错误:

  • 使用 crawl 而不是 map 来发现 URL

提示示例:

“列出 example.com 上的所有 URL。”

使用示例:

{
  "name": "firecrawl_map",
  "arguments": {
    "url": "https://example.com"
  }
}

返回:

  • 在网站上找到的 URL 数组

3. 搜索工具 (firecrawl_search)

搜索网络,并可选择从搜索结果中提取内容。

最适合:

  • 在多个网站上查找特定信息,当你不知道哪个网站有该信息时。
  • 当你需要查询的最相关内容时

不推荐用于:

  • 当你已经知道要抓取哪个网站时(使用 scrape)
  • 当你需要全面覆盖单个网站时(使用 map 或 crawl)

常见错误:

  • 对开放式问题使用 crawl 或 map(应使用 search)

使用示例:

{
  "name": "firecrawl_search",
  "arguments": {
    "query": "latest AI research papers 2023",
    "highlights": true,
    "limit": 5,
    "lang": "en",
    "country": "us",
    "scrapeOptions": {
      "formats": ["markdown"],
      "onlyMainContent": true,
      "redactPII": true
    }
  }
}

highlights 设置为 true 可请求与查询相关的高亮片段,或设置为 false 以保留原始搜索摘要。省略该参数则使用 API 的默认行为。

返回:

  • 搜索结果数组(可包含抓取内容),以及一个 id 字段。在使用结果后,将该 id 传递给 firecrawl_search_feedback,可退还 1 个积分(搜索消耗 2 个积分)并提升搜索质量。

提示示例:

“查找 2023 年发表的关于 AI 的最新研究论文。”

3b. 搜索反馈工具 (firecrawl_search_feedback)

针对之前的 firecrawl_search 结果发送结构化反馈。每个搜索 ID 的首次反馈可退还 1 个积分,并提升 Firecrawl 的搜索质量。同一搜索 ID 的后续反馈为幂等操作。

请在每次实际使用搜索后(或搜索无帮助时)调用此工具。 带有 missingContent 的不良/部分反馈与良好反馈同样有价值。

选择退出: 在启动 MCP 服务器时,于环境变量中设置 FIRECRAWL_NO_SEARCH_FEEDBACK=1(或 FIRECRAWL_DISABLE_SEARCH_FEEDBACK=1)。此时 firecrawl_search_feedback 工具将不会被注册,因此代理无法调用它。团队管理员也可以在服务器端禁用反馈功能;在这种情况下,工具虽被注册,但始终返回 feedbackErrorCode: "TEAM_OPTED_OUT"

最重要的字段: missingContent。它是一个数组,包含代理期望找到但未找到的具体内容片段。每个缺失主题对应一个条目——这些信息会在团队间汇总,告诉我们接下来需要索引什么内容。

每日退款上限(每团队,每 UTC 日,默认 100 积分)。 一旦团队的 creditsRefundedToday 达到 dailyRefundCap,后续提交仍会记录反馈,但不再退还积分。响应中会设置 dailyCapReached: true。代理在看到此标志后,应在该 UTC 日剩余时间内停止调用此工具。

使用示例:

{
  "name": "firecrawl_search_feedback",
  "arguments": {
    "searchId": "0193f6c5-1234-7890-abcd-1234567890ab",
    "rating": "good",
    "valuableSources": [
      {
        "url": "https://docs.firecrawl.dev/features/search",
        "reason": "Most up-to-date description of /search."
      }
    ],
    "missingContent": [
      {
        "topic": "Pricing for the search endpoint",
        "description": "No pricing tier table for /search specifically."
      },
      { "topic": "Per-team rate limits" }
    ],
    "querySuggestions": "Boost docs.firecrawl.dev for queries that mention 'firecrawl'"
  }
}

返回:

  • { success, feedbackId, creditsRefunded, alreadySubmitted? } JSON。

3c. 通用反馈工具 (firecrawl_feedback)

通过 /v2/feedback 为已完成的 v2 端点任务发送结构化反馈。 适用于对 scrapeparsemapsearch 任务的端点级反馈。若专门针对搜索结果质量,建议优先使用 firecrawl_search_feedback,因为它包含搜索相关的特定指导。

请保持反馈简洁:使用问题代码、标签、简短说明、URL、页码和小型元数据对象。不要包含原始的抓取/解析输出。

选择退出: 在启动 MCP 服务器时,于环境变量中设置 FIRECRAWL_NO_ENDPOINT_FEEDBACK=1(或 FIRECRAWL_DISABLE_ENDPOINT_FEEDBACK=1)。此时 firecrawl_feedback 工具将不会被注册,因此代理无法调用它。

使用示例:

{
  "name": "firecrawl_feedback",
  "arguments": {
    "endpoint": "scrape",
    "jobId": "0193f6c5-1234-7890-abcd-1234567890ab",
    "rating": "partial",
    "issues": ["missing_markdown"],
    "tags": ["docs"],
    "note": "The pricing table was missing from the markdown output.",
    "url": "https://example.com/pricing",
    "pageNumbers": [1],
    "metadata": {
      "format": "markdown"
    }
  }
}

返回:

  • { success, feedbackId, creditsRefunded, creditsRefundedToday?, dailyRefundCap?, dailyCapReached?, alreadySubmitted?, warning? } JSON。

4. 爬取工具 (firecrawl_crawl)

启动一个爬取任务,轮询直至其达到最终状态,并返回最终的爬取状态/数据。

最适合:

  • 当需要全面覆盖时,从多个相关页面提取内容。

不推荐用于:

  • 从单个页面提取内容(请使用抓取工具)
  • 当令牌限制成为问题时(使用映射 + 抓取以获得更精细的控制)
  • 当需要快速结果时(爬取可能较慢)

警告: 爬取响应可能非常大,并可能超出令牌限制。请限制爬取深度和页面数量,或使用映射 + 抓取以获得更精细的控制。

常见错误:

  • 将 limit 或 maxDiscoveryDepth 设置得过高(导致令牌溢出)
  • 对单个页面使用爬取(应改用抓取)

提示示例:

“获取 example.com/blog 前两个层级的所有博客文章。”

使用示例:

{
  "name": "firecrawl_crawl",
  "arguments": {
    "url": "https://example.com/blog/*",
    "maxDiscoveryDepth": 2,
    "limit": 100,
    "allowExternalLinks": false,
    "deduplicateSimilarURLs": true
  }
}

返回:

  • 内部轮询后的最终爬取状态和数据,包括 idstatuscompletedtotalcreditsUsedexpiresAtnextdata。如果稍后需要重新检查任务,可将返回的 idfirecrawl_check_crawl_status 一起使用。

5. 检查爬取状态 (firecrawl_check_crawl_status)

通过 ID 检查现有爬取任务的状态和结果。

{
  "name": "firecrawl_check_crawl_status",
  "arguments": {
    "id": "550e8400-e29b-41d4-a716-446655440000"
  }
}

返回:

  • 响应包含爬取任务的状态:

6. 解析工具 (firecrawl_parse)

使用 Firecrawl 的 /v2/parse 端点解析本地文件或托管的文件上传引用。

最适合: PDF、Word 文档、电子表格、HTML 文件以及其他需要 Markdown 或结构化 JSON 输出的文档。托管 MCP 支持两步上传引用流程;本地直接文件读取需要自托管的 FIRECRAWL_API_URL

不推荐用于: 远程 URL(请使用抓取工具)、单次调用处理多个文件(请为每个文件单独调用解析工具),或仅限浏览器的操作,如截图和点击。

托管 MCP 流程: 托管 MCP 无法直接读取调用者的文件系统。请使用 filePath 调用 firecrawl_parse,以接收一个短期有效的上传命令和 nextToolCall,在本地完成文件上传,然后使用返回的 uploadRef 再次调用 firecrawl_parse。创建托管上传 URL 需要 Firecrawl 认证或无密钥资格。在本地 npx firecrawl-mcp 模式下,直接文件解析目前需要 FIRECRAWL_API_URL 指向自托管的 Firecrawl API;仅使用云 API 密钥的普通本地服务器无法通过此工具读取和上传文件。

使用示例:

{
  "name": "firecrawl_parse",
  "arguments": {
    "filePath": "/absolute/path/to/document.pdf",
    "formats": ["markdown"],
    "parsers": ["pdf"],
    "zeroDataRetention": true
  }
}

返回: 解析后的文档内容或带有 nextToolCall 的托管上传说明。

7. 提取工具 (firecrawl_extract)

利用 LLM 能力从网页中提取结构化信息。同时支持云端 AI 和自托管 LLM 提取。

最适合:

  • 提取特定的结构化数据,如价格、名称、详细信息。

不推荐用于:

  • 当需要页面的完整内容时(请使用抓取工具)
  • 当不寻找特定结构化数据时

参数:

  • urls:要从中提取信息的 URL 数组
  • prompt:用于 LLM 提取的自定义提示
  • systemPrompt:用于指导 LLM 的系统提示
  • schema:用于结构化数据提取的 JSON schema
  • allowExternalLinks:允许从外部链接提取
  • enableWebSearch:启用网络搜索以获取额外上下文
  • includeSubdomains:在提取中包含子域名

使用自托管实例时,提取将使用您配置的 LLM。对于云 API,则使用 Firecrawl 的托管 LLM 服务。 提示示例:

“从这些产品页面提取产品名称、价格和描述。”

使用示例:

{
  "name": "firecrawl_extract",
  "arguments": {
    "urls": ["https://example.com/page1", "https://example.com/page2"],
    "prompt": "Extract product information including name, price, and description",
    "systemPrompt": "You are a helpful assistant that extracts product information",
    "schema": {
      "type": "object",
      "properties": {
        "name": { "type": "string" },
        "price": { "type": "number" },
        "description": { "type": "string" }
      },
      "required": ["name", "price"]
    },
    "allowExternalLinks": false,
    "enableWebSearch": false,
    "includeSubdomains": false
  }
}

返回:

  • 根据您的 schema 定义提取的结构化数据
{
  "content": [
    {
      "type": "text",
      "text": {
        "name": "Example Product",
        "price": 99.99,
        "description": "This is an example product description"
      }
    }
  ],
  "isError": false
}

8. 代理工具 (firecrawl_agent)

自主网络研究代理。这是一个独立的 AI 代理层,可自主浏览互联网、搜索信息、浏览页面,并根据您的查询提取结构化数据。

工作原理:

代理自主执行网络搜索、跟踪链接、阅读页面并收集数据。此过程异步运行——它会立即返回一个任务 ID,您可以通过轮询 firecrawl_agent_status 来检查任务何时完成并获取结果。

异步工作流程:

  1. 使用您的提示/schema 调用 firecrawl_agent → 返回任务 ID
  2. 在代理研究期间执行其他工作(复杂查询可能需要几分钟)
  3. 使用任务 ID 轮询 firecrawl_agent_status 以检查进度
  4. 当状态为“已完成”时,响应中将包含提取的数据

最适合:

  • 当您不知道确切 URL 的复杂研究任务
  • 多源数据收集
  • 查找分散在网上的信息
  • 在等待结果时可以执行其他工作的任务

不推荐用于:

  • 知道 URL 的简单单页抓取(请使用带 JSON 格式的抓取工具——更快更便宜)

参数:

  • prompt:对所需数据的自然语言描述(必填,最多 10,000 个字符)
  • urls:可选的 URL 数组,用于将代理聚焦在特定页面上
  • schema:可选的 JSON schema,用于结构化输出

提示示例:

“查找 Firecrawl 的创始人及其背景”

使用示例(启动代理,然后轮询结果):

{
  "name": "firecrawl_agent",
  "arguments": {
    "prompt": "Find the top 5 AI startups founded in 2024 and their funding amounts",
    "schema": {
      "type": "object",
      "properties": {
        "startups": {
          "type": "array",
          "items": {
            "type": "object",
            "properties": {
              "name": { "type": "string" },
              "funding": { "type": "string" },
              "founded": { "type": "string" }
            }
          }
        }
      }
    }
  }
}

然后使用返回的任务 ID 通过 firecrawl_agent_status 进行轮询。

使用示例(带 URL——代理聚焦于特定页面):

{
  "name": "firecrawl_agent",
  "arguments": {
    "urls": ["https://docs.firecrawl.dev", "https://firecrawl.dev/pricing"],
    "prompt": "Compare the features and pricing information from these pages"
  }
}

返回:

  • 用于状态检查的任务 ID。使用 firecrawl_agent_status 轮询结果。

9. 检查代理状态 (firecrawl_agent_status)

检查代理任务的状态,并在完成后获取结果。在启动代理后,使用此工具轮询结果。

轮询模式: 对于复杂查询,代理研究可能需要几分钟。请定期(例如,每 10-30 秒)轮询此端点,直到状态变为“已完成”或“失败”。

{
  "name": "firecrawl_agent_status",
  "arguments": {
    "id": "550e8400-e29b-41d4-a716-446655440000"
  }
}

可能的状态:

  • processing:代理仍在研究中——请稍后查看
  • completed:研究已完成——响应中包含提取的数据
  • failed:发生错误

10. 交互工具 (firecrawl_interact)

与一个新的 URL 或由 firecrawl_scrape 已打开的页面进行交互。

最适合: 在不恢复已弃用的浏览器工具的情况下,对动态页面进行点击、输入、导航和状态提取。

使用选项:

  • 传递 url 可在一次 MCP 调用中抓取并打开页面进行交互。
  • 传递 scrapeId 可继续与现有的已抓取页面进行交互。
  • 必须恰好传递 urlscrapeId 中的一个,并加上 promptcode

使用示例:

{
  "name": "firecrawl_interact",
  "arguments": {
    "url": "https://example.com",
    "prompt": "Click the pricing link and summarize the visible plans"
  }
}

返回: 交互结果,对于 URL 模式,还会返回派生的 scrapeId 用于后续操作或清理。

11. 停止交互工具 (firecrawl_interact_stop)

在交互完成后,停止已抓取页面的交互会话。

{
  "name": "firecrawl_interact_stop",
  "arguments": {
    "scrapeId": "scrape-id-here"
  }
}

12. 研究工具 (firecrawl_research_*)

通过研究 MCP 工具搜索和查阅论文及 GitHub 仓库。

可用的研究工具:

  • firecrawl_research_search_papers:搜索研究论文。
  • firecrawl_research_inspect_paper:查阅单篇论文。
  • firecrawl_research_related_papers:查找相关论文。
  • firecrawl_research_read_paper:阅读论文内容。
  • firecrawl_research_search_github:搜索 GitHub 仓库。

最适合: 文献综述、论文查找和仓库发现工作流,在这些场景中,代理需要一个专注的研究界面,而非通用的网络抓取。

13. 监控工具 (firecrawl_monitor_*)

创建和管理定期页面监控。监控器会按计划执行抓取或爬取,将每次结果与上次保留的快照进行对比,并可通过 Webhook 或电子邮件发送通知。

最适合:

  • 随时间推移监控一个或几个页面
  • 使用简明英文目标对有意义的变化发出警报
  • 跟踪检查历史和页面级差异

推荐的创建模式:

使用 pagepages 加上 goal。MCP 服务器会构建一个带有 30 分钟计划的监控请求,API 会自动启用有意义变化判断。

当设置了 goal 时,有意义变化判断会自动运行。页面 Webhook 会在 monitor.page 事件中暴露 isMeaningfuljudgment

将目标编写为 2-3 句简洁的监控指令。说明什么情况应触发警报,保留用户给出的任何范围,并仅在请求中明确要求时才包含特定意图的排除项。诸如空白字符、仅格式更改、请求 ID、跟踪参数、通用元数据和不相关的页面装饰等通用噪音已由判断器处理,因此无需在每个目标中重复说明。如果用户表述模糊,请保持目标宽泛;如果他们要求广泛监控或“任何更改”,请保留该意图。如果用户明确表示不关心某些内容,请明确包含该排除项。

{
  "name": "firecrawl_monitor_create",
  "arguments": {
    "page": "https://example.com/pricing",
    "goal": "Alert when pricing, packaging, or launch messaging changes."
  }
}

带 Webhook 的多页面监控:

{
  "name": "firecrawl_monitor_create",
  "arguments": {
    "pages": ["https://example.com/pricing", "https://example.com/changelog"],
    "goal": "Alert when pricing, packaging, or launch messaging changes.",
    "webhookUrl": "https://example.com/webhooks/firecrawl"
  }
}

高级创建请求:

当需要爬取目标、JSON 变更跟踪、自定义保留策略或显式的 judgeEnabled 控制时,请传递 body

{
  "name": "firecrawl_monitor_create",
  "arguments": {
    "body": {
      "name": "Docs monitor",
      "schedule": { "text": "hourly", "timezone": "UTC" },
      "goal": "Alert when docs pages add, remove, or materially change API behavior.",
      "targets": [{ "type": "crawl", "url": "https://example.com/docs" }]
    }
  }
}

其他监控工具:

  • firecrawl_monitor_list:列出监控器。
  • firecrawl_monitor_get:获取单个监控器。
  • firecrawl_monitor_update:更新字段,包括 goaljudgeEnabledwebhooknotification
  • firecrawl_monitor_run:立即触发一次检查。
  • firecrawl_monitor_delete:删除监控器(破坏性操作;仅在用户明确意图移除时调用)。
  • firecrawl_monitor_checks:列出检查记录,可按状态筛选。
  • firecrawl_monitor_check:获取页面级结果,包括 diffsnapshotjudgment.meaningfuljudgment.meaningfulChanges

日志系统

服务器包含全面的日志记录功能:

  • 操作状态与进度
  • 性能指标
  • 速率限制跟踪
  • 错误状况

日志消息示例:

[INFO] Firecrawl MCP Server initialized successfully
[INFO] Starting scrape for URL: https://example.com
[ERROR] Rate limit exceeded

错误处理

服务器提供健壮的错误处理机制:

  • 将 API 速率限制错误上报给 MCP 客户端
  • 详细的错误消息
  • 网络韧性

错误响应示例:

{
  "content": [
    {
      "type": "text",
      "text": "Error: Rate limit exceeded"
    }
  ],
  "isError": true
}

开发

# Install dependencies
npm install

# Build
npm run build

# Run tests
npm test

贡献指南

  1. Fork 本仓库
  2. 创建您的功能分支
  3. 运行测试:npm test
  4. 提交拉取请求

致谢贡献者

感谢 @vrknetha@cawstudios 的初始实现!

感谢 MCP.so 和 Klavis AI 的托管,以及 @gstarwd@xiangkaiz@zihaolin96 集成我们的服务器。

许可证

MIT 许可证 - 详情请参阅 LICENSE 文件