Oxylabs

公式

Oxylabs Web APIを使用してウェブサイトをスクレイピングし、動的レンダリングと解析をサポートして構造化データを抽出します。

Oxylabs MCPで何ができますか?

  • 任意のURLをスクレイピング — JavaScriptレンダリング、地域ターゲティング、Markdown・HTML・リンク形式での出力をオプションで指定して、ページを取得します。
  • GoogleとAmazonを検索 — Google検索、Amazon検索、Amazonの商品ページの結果を取得し、必要に応じて構造化JSONに解析します。
  • AIによる抽出 — AIを活用してURLをスクレイピングし、データをJSON、CSV、Markdown、TOON形式で返します。
  • サイトをクロール — プロンプトに基づいて開始URLからクロールし、複数のページにわたってデータを収集します。
  • ブラウザを操作 — 実際のブラウザにプロンプトに従ってページ移動、クリック、フォーム入力をさせ、その結果を返します。
  • マップと検索 — キーワードまたはプロンプトで絞り込んでサイトのURLをマップするか、ウェブを検索して各結果のMarkdownを取得します。

ドキュメント

Oxylabs + MCP

Oxylabs MCP Server

AIモデルと現実のWebをつなぐ欠けていたリンク:あらゆるサイトからクリーンで構造化されたデータを取得する単一のAPI。


免責事項

このリポジトリは引き続き完全にサポートされていますが、Oxylabs Web APIをご利用の場合は、Web API MCPリポジトリをご覧ください。 Web API MCP

📖 概要

Oxylabs MCPサーバーは、AIモデルとWebをつなぐブリッジを提供します。あらゆるURLのスクレイピング、JavaScriptを多用するページのレンダリング、AIでの利用に適したコンテンツの抽出と整形、CAPTCHAへの対応、195か国以上のジオ制限されたWebデータへのアクセスを可能にします。

これは、AIアシスタントを外部のツールやデータに接続するためのオープン標準であるModel Context Protocol (MCP)上に構築されています。

mcp-name: io.oxylabs/oxylabs-mcp

🛠️ MCPツール

Oxylabs MCPは、組み合わせて、または個別に使用できる2種類のツールを提供します。

Oxylabs Web Scraper APIツール

  1. universal_scraper: 任意のURLをスクレイピングします。JavaScriptレンダリング、地域ターゲティング、Markdown/HTML/リンク形式での出力をオプションで指定できます。
  2. google_search_scraper: Google検索結果を抽出します。構造化JSONへの解析もオプションで指定できます。
  3. amazon_search_scraper: Amazonの検索結果ページをスクレイピングします。構造化JSONへの解析もオプションで指定できます。
  4. amazon_product_scraper: 個別のAmazon商品ページからデータを抽出します。

Oxylabs AI Studioツール

  1. ai_scraper: AIを活用して任意のURLからコンテンツをスクレイピングし、JSON、CSV、Markdown、TOON形式で出力します。
  2. ai_crawler: プロンプトに基づいて開始URLからWebサイトをクロールし、複数のページからデータを収集します。
  3. ai_browser_agent: プロンプトに基づいて実際のブラウザーを操作し、ページ移動、クリック、フォーム入力などを行って結果を返します。
  4. ai_search: Webを検索し、各検索結果のMarkdownコンテンツをオプションで返します。
  5. ai_map: キーワードまたはプロンプトで絞り込みながら、WebサイトのURLをマッピングします。
  6. generate_schema: 上記のAIツールで構造化データを抽出するための、OpenAPI形式のJSONスキーマを生成します。

✅ 前提条件

開始する前に、以下のうち少なくとも1つを用意してください。

  • Oxylabs Web Scraper APIアカウント: OxylabsダッシュボードからAPIトークン(またはユーザー名とパスワード)を取得します(1週間の無料トライアルあり)。
  • Oxylabs AI Studio APIキー: Oxylabs AI StudioからAPIキーを取得します(1000クレジット無料)。

サーバーをローカルで実行するには(以下のオプション2)、uvパッケージマネージャーも必要です。

# macOS and Linux
curl -LsSf https://astral.sh/uv/install.sh | sh
# Windows
powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex"

📦 設定

サーバーの利用方法は2つあります。ホスト型インスタンスに接続する(インストール不要)か、環境変数に認証情報を設定してローカルで実行します。

オプション1: ホスト型サーバー(インストール不要)

Oxylabsは、以下のホスト型MCPサーバーを提供しています。

https://mcp.oxylabs.io/mcp

認証情報はリクエストヘッダーで渡します。

認証情報ヘッダー
Web Scraper APIトークン(推奨)Authorization: Bearer <token>
Web Scraper APIトークン(代替)X-Oxylabs-Api-Token
Web Scraper APIのユーザー名とパスワードAuthorization: Basic <base64(username:password)>
Web Scraper APIのユーザー名とパスワード(代替)X-Oxylabs-Username および X-Oxylabs-Password
AI StudioX-Oxylabs-AI-Studio-Api-Key

APIトークンとユーザー名・パスワードの両方が渡された場合は、トークンが使用されます。

Claude Codeでの設定:

claude mcp add --transport http oxylabs https://mcp.oxylabs.io/mcp \
  --header "Authorization: Bearer YOUR_API_TOKEN" \
  --header "X-Oxylabs-AI-Studio-Api-Key: YOUR_API_KEY"

Cursorまたはカスタムヘッダーを使ったリモートMCPサーバーに対応するクライアントでの設定:

{
  "mcpServers": {
    "oxylabs": {
      "url": "https://mcp.oxylabs.io/mcp",
      "headers": {
        "Authorization": "Bearer YOUR_API_TOKEN",
        "X-Oxylabs-AI-Studio-Api-Key": "YOUR_API_KEY"
      }
    }
  }
}

サーバーはSmitheryにも掲載されています。

注: リモートサーバーでOAuthのみをサポートするクライアント(たとえば、claude.aiのWeb UIでカスタムコネクターを追加する場合)は、現時点ではヘッダーを渡せません。OAuthサインインは今後対応予定です。 それまでは、これらのクライアントでは以下のローカル設定を使用してください。

オプション2: ローカルで実行

環境変数

Oxylabs MCPサーバーは、以下の環境変数に対応しています。

名前説明デフォルト
OXYLABS_API_TOKENOxylabs Web Scraper APIトークン
OXYLABS_USERNAMEOxylabs Web Scraper APIユーザー名
OXYLABS_PASSWORDOxylabs Web Scraper APIパスワード
OXYLABS_AI_STUDIO_API_KEYOxylabs AI Studio APIキー
LOG_LEVELクライアントに返されるログのログレベルINFO

Web Scraper APIツールを使う場合は、OXYLABS_API_TOKENを設定するか、OXYLABS_USERNAMEと OXYLABS_PASSWORDの両方を設定してください。両方が設定されている場合は、トークンが使用されます。AI Studioツールを使う場合は、 OXYLABS_AI_STUDIO_API_KEYを設定してください。

すべてのツールは常に一覧に表示されます。必要な認証情報なしでツールを呼び出すと、設定方法を説明するエラーメッセージが返されます。

❗ 重要: 実際の認証情報がある環境変数のみを設定してください。 プレースホルダー値ではツール呼び出しに失敗します。

uvxで設定

PyPIからパッケージをインストールし、自動的に実行します。

{
  "mcpServers": {
    "oxylabs": {
      "command": "uvx",
      "args": ["oxylabs-mcp"],
      "env": {
        "OXYLABS_API_TOKEN": "YOUR_API_TOKEN",
        "OXYLABS_AI_STUDIO_API_KEY": "YOUR_API_KEY"
      }
    }
  }
}

ローカルチェックアウトで設定

開発に便利です。このリポジトリのローカルクローンからサーバーを実行します。

{
  "mcpServers": {
    "oxylabs": {
      "command": "uv",
      "args": [
        "--directory",
        "/<absolute-path-to-folder>/oxylabs-mcp",
        "run",
        "oxylabs-mcp"
      ],
      "env": {
        "OXYLABS_API_TOKEN": "YOUR_API_TOKEN",
        "OXYLABS_AI_STUDIO_API_KEY": "YOUR_API_KEY"
      }
    }
  }
}

リモートHTTPサーバーとして実行(セルフホスティング)

サーバーはMCP streamable-HTTPトランスポートにも対応しています。次のコマンドで起動します。

MCP_TRANSPORT=streamable-http MCP_HOST=0.0.0.0 MCP_PORT=8000 uvx oxylabs-mcp

HTTPトランスポートでは、環境変数ではなく、リクエストごとに認証情報を渡します。

認証情報渡し方
Web Scraper APIトークン(推奨)Authorization: Bearer <token>
Web Scraper APIトークン(代替)X-Oxylabs-Api-Tokenヘッダー
Web Scraper APIのユーザー名とパスワードAuthorization: Basic <base64(username:password)>(HTTP Basic認証)
Web Scraper APIのユーザー名とパスワード(代替)X-Oxylabs-UsernameおよびX-Oxylabs-Passwordヘッダー
AI StudioX-Oxylabs-AI-Studio-Api-Keyヘッダー

クライアント設定の例:

{
  "mcpServers": {
    "oxylabs": {
      "url": "https://your-host:8000/mcp",
      "headers": {
        "Authorization": "Bearer YOUR_API_TOKEN",
        "X-Oxylabs-AI-Studio-Api-Key": "YOUR_API_KEY"
      }
    }
  }
}

認証情報の有無にかかわらず、すべてのツールが常に一覧に表示されます。必要な認証情報なしでツールを呼び出すと、設定すべき内容を具体的に説明するエラーメッセージが返されます。

Claude Desktopでの設定

Claude → Settings → Developer → Edit Configに移動し、上記の設定のいずれかをclaude_desktop_config.jsonファイルに追加します。

Cursor AIでの設定

Cursor → Settings → Cursor Settings → MCPに移動します。Add new global MCP serverをクリックし、上記の設定のいずれかを追加します。

📝 ログ

サーバーはnotification/messageイベントで、ツール呼び出しに関する追加情報を提供します。

{
  "method": "notifications/message",
  "params": {
    "level": "info",
    "data": "Create job with params: {\"url\": \"https://ip.oxylabs.io\"}"
  }
}
{
  "method": "notifications/message",
  "params": {
    "level": "info",
    "data": "Job info: job_id=7333113830223918081 job_status=done"
  }
}
{
  "method": "notifications/message",
  "params": {
    "level": "error",
    "data": "Error: request to Oxylabs API failed"
  }
}

✨ 主な機能

あらゆるサイトのコンテンツをスクレイピング
  • 複雑なシングルページアプリケーションを含む、あらゆるURLからデータを抽出
  • ヘッドレスブラウザーに対応し、動的なWebサイトを完全にレンダリング
  • JavaScriptの完全レンダリング、HTMLのみ、またはレンダリングなしを選択
  • モバイルとデスクトップのビューポートをエミュレートし、実際の表示に近い形でレンダリング
AIですぐに使えるデータを自動取得
  • HTMLを自動的にクリーンアップしてMarkdownに変換し、読みやすさを向上
  • GoogleやAmazonなどの一般的な対象向けに、自動パーサーを利用
CAPTCHAとジオ制限に対応
  • 高い成功率で、高度な自動リクエスト管理システムに対応
  • 最も複雑なWebサイトも安定してスクレイピング
  • 195か国以上をカバーするプロキシプールから、IPを自動でローテーション
柔軟な設定とクロスプラットフォーム対応
  • 必要に応じてレンダリングと解析のオプションを設定
  • データをAIモデルや分析ツールに直接渡す
  • macOS、Windows、Linuxで動作
エラー処理とリクエスト管理を内蔵
  • 包括的なエラー処理とレポート機能
  • スマートなレート制限とリクエスト管理

Oxylabs MCPを選ぶ理由  🕸️ ➜ 📦 ➜ 🤖

LLMに*「GPT‑5に関する最新のHacker Newsの議論を要約して」*と伝えるだけで、答えが返ってくる様子を想像してください。 Oxylabs MCPサーバーは、面倒な作業を代わりに行い、それを実現します。

Oxylabs MCPが行うことそのメリット
Oxylabsのグローバルプロキシネットワークで自動リクエストの壁に対応Webサイトへのアクセスと匿名性を実現
ヘッドレスChromeでJavaScriptをレンダリングシングルページアプリにも対応
HTMLをMarkdownに変換してクリーンアップベクトルDBやプロンプトにそのまま投入可能
オプションの構造化パーサー(Google、Amazonなど)人気の対象に1行でアクセス

🛡️ ライセンス

MIT Licenseの下で配布されています。詳細はLICENSEをご覧ください。


Oxylabsについて

2015年に設立されたOxylabsは、最高水準のビジネス、倫理、コンプライアンス基準に基づく、業界をリードするWebインテリジェンス収集プラットフォームです。世界中の企業がデータに基づくインサイトを得られるよう支援しています。

image

Oxylabsが☕を添えて作成しました。MCPが週末を救ったら、ぜひ⭐を付けてフォローしてください。

このMCPを基に作られたソリューション:

Michelin Detour