Oxylabs

официальный

Скрейпинг веб-сайтов с помощью Oxylabs Web API, поддерживающий динамический рендеринг и парсинг для извлечения структурированных данных.

Что можно делать с Oxylabs MCP?

Попросите вашего ИИ-ассистента выполнять парсинг, поиск и извлечение структурированных веб-данных с помощью инструментов парсинга и ИИ от Oxylabs.

  • Парсинг любого URL — Используйте universal_scraper для получения страницы с опциональным рендерингом JavaScript и геотаргетингом, возвращая Markdown, HTML или ссылки.
  • Извлечение результатов Google — Попросите google_search_scraper получить результаты поиска и разобрать их в структурированный JSON.
  • Извлечение на основе ИИ — Используйте ai_scraper для извлечения контента с любого URL в формат JSON, CSV, Markdown или TOON.
  • Обход веб-сайта — Попросите ai_crawler выполнить обход, начиная с указанного URL на основе запроса, и собрать данные с нескольких страниц.
  • Управление браузером — Используйте ai_browser_agent для навигации, кликов и заполнения форм в реальном браузере на основе запроса.

Документация

Oxylabs + MCP

Oxylabs MCP Server

Недостающее звено между ИИ-моделями и реальным вебом: один API, который предоставляет чистые структурированные данные с любого сайта.


📖 Обзор

Сервер Oxylabs MCP обеспечивает связь между ИИ-моделями и вебом. Он позволяет им извлекать данные с любого URL, отображать страницы с большим количеством JavaScript, извлекать и форматировать контент для использования в ИИ, управлять CAPTCHA и получать доступ к геоограниченным веб-данным из более чем 195 стран.

Он построен на Model Context Protocol (MCP) — открытом стандарте для подключения ИИ-ассистентов к внешним инструментам и данным.

🛠️ Инструменты MCP

Oxylabs MCP предоставляет два набора инструментов, которые можно использовать вместе или по отдельности:

Инструменты Oxylabs Web Scraper API

  1. universal_scraper: извлекает данные с любого URL, с опциональным рендерингом JavaScript, геотаргетингом и выводом в Markdown/HTML/ссылках;
  2. google_search_scraper: извлекает результаты из Google Search, с опциональным разбором в структурированный JSON;
  3. amazon_search_scraper: извлекает данные со страниц результатов поиска Amazon, с опциональным разбором в структурированный JSON;
  4. amazon_product_scraper: извлекает данные с отдельных страниц товаров Amazon.

Инструменты Oxylabs AI Studio

  1. ai_scraper: извлекает контент с любого URL с помощью ИИ-извлечения в форматах JSON, CSV, Markdown или TOON;
  2. ai_crawler: обходит сайт, начиная с заданного URL, на основе промпта и собирает данные с нескольких страниц;
  3. ai_browser_agent: управляет реальным браузером на основе промпта — перемещается, кликает, заполняет формы — и возвращает результат;
  4. ai_search: выполняет поиск в вебе и опционально возвращает Markdown-контент каждого результата;
  5. ai_map: составляет карту URL-адресов сайта, фильтруя по ключевым словам или промпту;
  6. generate_schema: генерирует JSON-схему в формате OpenAPI для структурированного извлечения с помощью указанных выше ИИ-инструментов.

✅ Предварительные требования

Перед началом убедитесь, что у вас есть хотя бы одно из следующего:

  • Аккаунт Oxylabs Web Scraper API: получите имя пользователя и пароль на Oxylabs (доступна бесплатная пробная версия на 1 неделю);
  • Ключ API Oxylabs AI Studio: получите ключ API на Oxylabs AI Studio (1000 бесплатных кредитов).

Вам также понадобится пакетный менеджер uv для запуска сервера:

# macOS and Linux
curl -LsSf https://astral.sh/uv/install.sh | sh
# Windows
powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex"

📦 Конфигурация

Переменные окружения

Сервер Oxylabs MCP поддерживает следующие переменные окружения:

ИмяОписаниеПо умолчанию
OXYLABS_USERNAMEВаше имя пользователя Oxylabs Web Scraper API
OXYLABS_PASSWORDВаш пароль Oxylabs Web Scraper API
OXYLABS_AI_STUDIO_API_KEYВаш ключ API Oxylabs AI Studio
LOG_LEVELУровень журналирования для логов, возвращаемых клиентуINFO

В зависимости от предоставленных учётных данных сервер автоматически открывает соответствующие инструменты:

  • Если указаны только OXYLABS_USERNAME и OXYLABS_PASSWORD, сервер открывает инструменты Web Scraper API;
  • Если указан только OXYLABS_AI_STUDIO_API_KEY, сервер открывает инструменты AI Studio;
  • Если указаны все три, сервер открывает все инструменты.

Важно: устанавливайте только те переменные окружения, для которых у вас есть реальные учётные данные. Если оставить значения-заглушки, будут открыты инструменты, которые не работают.

Настройка с помощью uvx

Устанавливает пакет из PyPI и запускает его автоматически:

{
  "mcpServers": {
    "oxylabs": {
      "command": "uvx",
      "args": ["oxylabs-mcp"],
      "env": {
        "OXYLABS_USERNAME": "YOUR_USERNAME",
        "OXYLABS_PASSWORD": "YOUR_PASSWORD",
        "OXYLABS_AI_STUDIO_API_KEY": "YOUR_API_KEY"
      }
    }
  }
}

Настройка с локальной копией репозитория

Полезно для разработки — запускает сервер из локального клона этого репозитория:

{
  "mcpServers": {
    "oxylabs": {
      "command": "uv",
      "args": [
        "--directory",
        "/<absolute-path-to-folder>/oxylabs-mcp",
        "run",
        "oxylabs-mcp"
      ],
      "env": {
        "OXYLABS_USERNAME": "YOUR_USERNAME",
        "OXYLABS_PASSWORD": "YOUR_PASSWORD",
        "OXYLABS_AI_STUDIO_API_KEY": "YOUR_API_KEY"
      }
    }
  }
}

Запуск в качестве удалённого HTTP-сервера (самостоятельный хостинг)

Сервер также поддерживает потоковый HTTP-транспорт MCP. Запустите его с помощью:

MCP_TRANSPORT=streamable-http MCP_HOST=0.0.0.0 MCP_PORT=8000 uvx oxylabs-mcp

При HTTP-транспорте учётные данные передаются в каждом запросе, а не через переменные окружения:

Учётные данныеКак передавать
Web Scraper APIAuthorization: Basic <base64(username:password)> (стандартная HTTP Basic-аутентификация)
Web Scraper API (альтернативно)заголовки X-Oxylabs-Username и X-Oxylabs-Password
AI Studioзаголовок X-Oxylabs-AI-Studio-Api-Key

Пример конфигурации клиента:

{
  "mcpServers": {
    "oxylabs": {
      "url": "https://your-host:8000/mcp",
      "headers": {
        "Authorization": "Basic <base64 of username:password>",
        "X-Oxylabs-AI-Studio-Api-Key": "YOUR_API_KEY"
      }
    }
  }
}

Все инструменты всегда перечислены независимо от предоставленных учётных данных; вызов инструмента без необходимых учётных данных возвращает сообщение об ошибке с точным объяснением, что нужно настроить.

Настройка с Claude Desktop

Перейдите в Claude → Settings → Developer → Edit Config и добавьте одну из конфигураций выше в файл claude_desktop_config.json.

Настройка с Cursor AI

Перейдите в Cursor → Settings → Cursor Settings → MCP. Нажмите Add new global MCP server и добавьте одну из конфигураций выше.

📝 Журналирование

Сервер предоставляет дополнительную информацию о вызовах инструментов в событиях notification/message:

{
  "method": "notifications/message",
  "params": {
    "level": "info",
    "data": "Create job with params: {\"url\": \"https://ip.oxylabs.io\"}"
  }
}
{
  "method": "notifications/message",
  "params": {
    "level": "info",
    "data": "Job info: job_id=7333113830223918081 job_status=done"
  }
}
{
  "method": "notifications/message",
  "params": {
    "level": "error",
    "data": "Error: request to Oxylabs API failed"
  }
}

✨ Ключевые возможности

Извлекайте контент с любого сайта
  • Извлекайте данные с любого URL, включая сложные одностраничные приложения
  • Полностью отображайте динамические сайты с помощью поддержки headless-браузера
  • Выбирайте полный рендеринг JavaScript, только HTML или его отсутствие
  • Эмулируйте мобильные и настольные viewport для реалистичного рендеринга
Автоматически получайте данные, готовые для ИИ
  • Автоматически очищайте и конвертируйте HTML в Markdown для улучшенной читаемости
  • Используйте автоматические парсеры для популярных ресурсов, таких как Google, Amazon и другие
Управляйте CAPTCHA и геоограничениями
  • Обходите сложные системы автоматического управления запросами с высоким процентом успеха
  • Надёжно извлекайте данные даже с самых сложных сайтов
  • Получайте автоматически ротируемые IP-адреса из пула прокси, охватывающего более 195 стран
Гибкая настройка и кроссплатформенная поддержка
  • При необходимости задавайте параметры рендеринга и разбора
  • Передавайте данные напрямую в ИИ-модели или инструменты аналитики
  • Работает на macOS, Windows и Linux
Встроенная обработка ошибок и управление запросами
  • Комплексная обработка ошибок и отчётность
  • Умное ограничение частоты запросов и управление ими

Почему Oxylabs MCP?  🕸️ ➜ 📦 ➜ 🤖

Представьте, что вы говорите своей LLM "Подытожь последнее обсуждение Hacker News о GPT‑5" — и она просто отвечает. Сервер Oxylabs MCP делает это возможным, выполняя скучную работу за вас:

Что делает Oxylabs MCPПочему это важно для вас
Управляет автоматическими системами защиты запросов с помощью глобальной прокси-сети OxylabsОбеспечивает доступ к сайтам и анонимность
Рендерит JavaScript в headless ChromeОдностраничные приложения — решено
Очищает HTML → MarkdownМожно сразу помещать в векторные БД или промпты
Опциональные структурированные парсеры (Google, Amazon и др.)Доступ к популярным ресурсам в одну строку

🛡️ Лицензия

Распространяется по лицензии MIT — подробности см. в LICENSE.


Об Oxylabs

Основанная в 2015 году, Oxylabs является ведущей платформой сбора веб-разведданных, руководствующейся высочайшими стандартами бизнеса, этики и соответствия требованиям, позволяющей компаниям по всему миру получать аналитические данные.

image

Сделано с ☕ компанией Oxylabs. Не стесняйтесь поставить нам ⭐, если MCP сэкономил вам выходные.

mcp-name: io.oxylabs/oxylabs-mcp