Oxylabs

официальный

Скрейпинг веб-сайтов с помощью Oxylabs Web API, поддерживающий динамический рендеринг и парсинг для извлечения структурированных данных.

Что можно делать с Oxylabs MCP?

  • Scrape any URL — Ask your assistant to fetch and extract content from any webpage using universal_scraper, with optional JavaScript rendering and geo-targeting.
  • Search Google and Amazon — Use google_search_scraper, amazon_search_scraper, or amazon_product_scraper to pull structured results from these platforms.
  • AI-powered extraction — Leverage ai_scraper to scrape any URL and return data in JSON, CSV, Markdown, or TOON formats.
  • Crawl and map websites — Use ai_crawler to collect data across multiple pages from a starting URL, or ai_map to list site URLs filtered by keywords.
  • Automate browser tasks — Delegate navigation, clicking, and form-filling to ai_browser_agent, which controls a real browser based on a prompt.
  • Generate extraction schemas — Ask for an OpenAPI-format JSON schema via generate_schema to structure data extraction with AI tools.

Документация

Oxylabs + MCP

Oxylabs MCP Server

Недостающее звено между моделями ИИ и реальным вебом: один API, который предоставляет чистые, структурированные данные с любого сайта.


📖 Обзор

Сервер Oxylabs MCP обеспечивает мост между моделями ИИ и вебом. Он позволяет им извлекать данные с любого URL, отображать страницы с интенсивным использованием JavaScript, извлекать и форматировать контент для использования ИИ, управлять CAPTCHA и получать доступ к геоограниченным веб-данным из более чем 195 стран.

Он построен на Протоколе контекста модели (MCP), открытом стандарте для подключения ИИ-ассистентов к внешним инструментам и данным.

🛠️ Инструменты MCP

Oxylabs MCP предоставляет два набора инструментов, которые можно использовать вместе или независимо:

Инструменты Oxylabs Web Scraper API

  1. universal_scraper: извлекает данные с любого URL, с опциональным рендерингом JavaScript, геотаргетингом и выводом в Markdown/HTML/ссылках;
  2. google_search_scraper: извлекает результаты из Google Search, с опциональным парсингом в структурированный JSON;
  3. amazon_search_scraper: извлекает данные со страниц результатов поиска Amazon, с опциональным парсингом в структурированный JSON;
  4. amazon_product_scraper: извлекает данные с отдельных страниц товаров Amazon.

Инструменты Oxylabs AI Studio

  1. ai_scraper: извлекает контент с любого URL с помощью ИИ-извлечения, в форматах JSON, CSV, Markdown или TOON;
  2. ai_crawler: обходит веб-сайт с начального URL на основе промпта и собирает данные с нескольких страниц;
  3. ai_browser_agent: управляет реальным браузером на основе промпта — навигация, клики, заполнение форм — и возвращает результат;
  4. ai_search: выполняет поиск в вебе и опционально возвращает Markdown-контент каждого результата;
  5. ai_map: составляет карту URL-адресов веб-сайта, фильтруя по ключевым словам или промпту;
  6. generate_schema: генерирует JSON-схему в формате OpenAPI для структурированного извлечения с помощью указанных выше ИИ-инструментов.

✅ Предварительные требования

Перед началом убедитесь, что у вас есть хотя бы одно из следующего:

  • Учётная запись Oxylabs Web Scraper API: получите имя пользователя и пароль на Oxylabs (доступна бесплатная пробная версия на 1 неделю);
  • Ключ API Oxylabs AI Studio: получите ключ API на Oxylabs AI Studio (1000 бесплатных кредитов).

Для локального запуска сервера (вариант 2 ниже) также потребуется менеджер пакетов uv:

# macOS and Linux
curl -LsSf https://astral.sh/uv/install.sh | sh
# Windows
powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex"

📦 Конфигурация

Есть два способа использования сервера: подключение к размещённому экземпляру (без установки) или локальный запуск с учётными данными в переменных окружения.

Вариант 1: Размещённый сервер (без установки)

Oxylabs запускает размещённый MCP-сервер по адресу:

https://mcp.oxylabs.io/mcp

Учётные данные передаются в заголовках запросов:

Учётные данныеЗаголовок
Web Scraper APIAuthorization: Basic <base64(username:password)>
Web Scraper API (альтернативный)X-Oxylabs-Username и X-Oxylabs-Password
AI StudioX-Oxylabs-AI-Studio-Api-Key

Настройка с Claude Code:

claude mcp add --transport http oxylabs https://mcp.oxylabs.io/mcp \
  --header "Authorization: Basic $(echo -n 'YOUR_USERNAME:YOUR_PASSWORD' | base64)" \
  --header "X-Oxylabs-AI-Studio-Api-Key: YOUR_API_KEY"

Настройка с Cursor или любым клиентом, поддерживающим удалённые MCP-серверы с пользовательскими заголовками:

{
  "mcpServers": {
    "oxylabs": {
      "url": "https://mcp.oxylabs.io/mcp",
      "headers": {
        "Authorization": "Basic <base64 of username:password>",
        "X-Oxylabs-AI-Studio-Api-Key": "YOUR_API_KEY"
      }
    }
  }
}

Сервер также указан на Smithery.

Примечание: клиенты, поддерживающие только OAuth для удалённых серверов (например, добавление пользовательского коннектора в веб-интерфейсе claude.ai), пока не могут передавать заголовки — вход через OAuth в наших планах. Используйте локальную настройку ниже с такими клиентами в это время.

Вариант 2: Локальный запуск

Переменные окружения

Сервер Oxylabs MCP поддерживает следующие переменные окружения:

ИмяОписаниеПо умолчанию
OXYLABS_USERNAMEВаше имя пользователя Oxylabs Web Scraper API
OXYLABS_PASSWORDВаш пароль Oxylabs Web Scraper API
OXYLABS_AI_STUDIO_API_KEYВаш ключ API Oxylabs AI Studio
LOG_LEVELУровень журналирования для логов, возвращаемых клиентуINFO

На основе предоставленных учётных данных сервер автоматически открывает соответствующие инструменты:

  • Если указаны только OXYLABS_USERNAME и OXYLABS_PASSWORD, сервер открывает инструменты Web Scraper API;
  • Если указан только OXYLABS_AI_STUDIO_API_KEY, сервер открывает инструменты AI Studio;
  • Если указаны все три, сервер открывает все инструменты.

❗ Важно: устанавливайте только те переменные окружения, для которых у вас есть реальные учётные данные. Оставление значений-заглушек приведёт к открытию инструментов, которые не работают.

Настройка с uvx

Устанавливает пакет из PyPI и запускает его автоматически:

{
  "mcpServers": {
    "oxylabs": {
      "command": "uvx",
      "args": ["oxylabs-mcp"],
      "env": {
        "OXYLABS_USERNAME": "YOUR_USERNAME",
        "OXYLABS_PASSWORD": "YOUR_PASSWORD",
        "OXYLABS_AI_STUDIO_API_KEY": "YOUR_API_KEY"
      }
    }
  }
}

Настройка с локальной копией

Полезно для разработки — запускает сервер из локального клона этого репозитория:

{
  "mcpServers": {
    "oxylabs": {
      "command": "uv",
      "args": [
        "--directory",
        "/<absolute-path-to-folder>/oxylabs-mcp",
        "run",
        "oxylabs-mcp"
      ],
      "env": {
        "OXYLABS_USERNAME": "YOUR_USERNAME",
        "OXYLABS_PASSWORD": "YOUR_PASSWORD",
        "OXYLABS_AI_STUDIO_API_KEY": "YOUR_API_KEY"
      }
    }
  }
}

Запуск как удалённый HTTP-сервер (самостоятельное размещение)

Сервер также поддерживает MCP-транспорт streamable-HTTP. Запустите его с помощью:

MCP_TRANSPORT=streamable-http MCP_HOST=0.0.0.0 MCP_PORT=8000 uvx oxylabs-mcp

С HTTP-транспортом учётные данные передаются в каждом запросе, а не через переменные окружения:

Учётные данныеКак передать
Web Scraper APIAuthorization: Basic <base64(username:password)> (стандартная HTTP Basic-аутентификация)
Web Scraper API (альтернативный)X-Oxylabs-Username и X-Oxylabs-Password заголовки
AI StudioX-Oxylabs-AI-Studio-Api-Key заголовок

Пример конфигурации клиента:

{
  "mcpServers": {
    "oxylabs": {
      "url": "https://your-host:8000/mcp",
      "headers": {
        "Authorization": "Basic <base64 of username:password>",
        "X-Oxylabs-AI-Studio-Api-Key": "YOUR_API_KEY"
      }
    }
  }
}

Все инструменты всегда перечислены независимо от предоставленных учётных данных; вызов инструмента без необходимых учётных данных возвращает сообщение об ошибке с объяснением, что именно нужно настроить.

Настройка с Claude Desktop

Перейдите в Claude → Настройки → Разработчик → Изменить конфигурацию и добавьте одну из конфигураций выше в файл claude_desktop_config.json.

Настройка с Cursor AI

Перейдите в Cursor → Настройки → Настройки Cursor → MCP. Нажмите Добавить новый глобальный MCP-сервер и добавьте одну из конфигураций выше.

📝 Журналирование

Сервер предоставляет дополнительную информацию о вызовах инструментов в событиях notification/message:

{
  "method": "notifications/message",
  "params": {
    "level": "info",
    "data": "Create job with params: {\"url\": \"https://ip.oxylabs.io\"}"
  }
}
{
  "method": "notifications/message",
  "params": {
    "level": "info",
    "data": "Job info: job_id=7333113830223918081 job_status=done"
  }
}
{
  "method": "notifications/message",
  "params": {
    "level": "error",
    "data": "Error: request to Oxylabs API failed"
  }
}

✨ Ключевые возможности

Извлекайте контент с любого сайта
  • Извлекайте данные с любого URL, включая сложные одностраничные приложения
  • Полностью отображайте динамические веб-сайты с помощью поддержки headless-браузера
  • Выбирайте полный рендеринг JavaScript, только HTML или отсутствие рендеринга
  • Эмулируйте мобильные и настольные видовые экраны для реалистичного отображения
Автоматически получайте данные, готовые для ИИ
  • Автоматически очищайте и конвертируйте HTML в Markdown для улучшенной читаемости
  • Используйте автоматические парсеры для популярных целей, таких как Google, Amazon и другие
Управляйте CAPTCHA и геоограничениями
  • Обходите сложные системы автоматического управления запросами с высоким процентом успеха
  • Надёжно извлекайте данные даже с самых сложных веб-сайтов
  • Получайте автоматически ротируемые IP-адреса из пула прокси, охватывающего более 195 стран
Гибкая настройка и кроссплатформенная поддержка
  • При необходимости настраивайте параметры рендеринга и парсинга
  • Подавайте данные напрямую в модели ИИ или инструменты аналитики
  • Работает на macOS, Windows и Linux
Встроенная обработка ошибок и управление запросами
  • Комплексная обработка ошибок и отчётность
  • Умное ограничение скорости и управление запросами

Почему Oxylabs MCP?  🕸️ ➜ 📦 ➜ 🤖

Представьте, что вы говорите своей LLM "Обобщи последнее обсуждение Hacker News о GPT‑5" – и она просто отвечает. Сервер Oxylabs MCP делает это возможным, выполняя скучные части за вас:

Что делает Oxylabs MCPПочему это важно для вас
Управляет стенами автоматических запросов с помощью глобальной прокси-сети OxylabsОбеспечивает доступ к веб-сайтам и анонимность
Отображает JavaScript в headless ChromeОдностраничные приложения, решено
Очищает HTML → MarkdownПрямая загрузка в векторные БД или промпты
Опциональные структурированные парсеры (Google, Amazon и т. д.)Доступ к популярным целям в одну строку

🛡️ Лицензия

Распространяется под лицензией MIT — см. LICENSE для подробностей.


Об Oxylabs

Основанная в 2015 году, Oxylabs — это ведущая платформа для сбора веб-интеллекта, руководствующаяся высочайшими стандартами бизнеса, этики и соответствия, позволяющая компаниям по всему миру получать аналитические данные на основе данных.

image

Сделано с ☕ компанией Oxylabs. Не стесняйтесь поставить нам ⭐, если MCP сэкономил вам выходные.

mcp-name: io.oxylabs/oxylabs-mcp

Решения, созданные на основе этого MCP:

Michelin Detour