Oxylabs
официальныйСкрейпинг веб-сайтов с помощью Oxylabs Web API, поддерживающий динамический рендеринг и парсинг для извлечения структурированных данных.
Что можно делать с Oxylabs MCP?
Попросите вашего ИИ-ассистента выполнять парсинг, поиск и извлечение структурированных веб-данных с помощью инструментов парсинга и ИИ от Oxylabs.
- Парсинг любого URL — Используйте
universal_scraperдля получения страницы с опциональным рендерингом JavaScript и геотаргетингом, возвращая Markdown, HTML или ссылки. - Извлечение результатов Google — Попросите
google_search_scraperполучить результаты поиска и разобрать их в структурированный JSON. - Извлечение на основе ИИ — Используйте
ai_scraperдля извлечения контента с любого URL в формат JSON, CSV, Markdown или TOON. - Обход веб-сайта — Попросите
ai_crawlerвыполнить обход, начиная с указанного URL на основе запроса, и собрать данные с нескольких страниц. - Управление браузером — Используйте
ai_browser_agentдля навигации, кликов и заполнения форм в реальном браузере на основе запроса.
Документация
Oxylabs MCP Server
Недостающее звено между ИИ-моделями и реальным вебом: один API, который предоставляет чистые структурированные данные с любого сайта.
📖 Обзор
Сервер Oxylabs MCP обеспечивает связь между ИИ-моделями и вебом. Он позволяет им извлекать данные с любого URL, отображать страницы с большим количеством JavaScript, извлекать и форматировать контент для использования в ИИ, управлять CAPTCHA и получать доступ к геоограниченным веб-данным из более чем 195 стран.
Он построен на Model Context Protocol (MCP) — открытом стандарте для подключения ИИ-ассистентов к внешним инструментам и данным.
🛠️ Инструменты MCP
Oxylabs MCP предоставляет два набора инструментов, которые можно использовать вместе или по отдельности:
Инструменты Oxylabs Web Scraper API
- universal_scraper: извлекает данные с любого URL, с опциональным рендерингом JavaScript, геотаргетингом и выводом в Markdown/HTML/ссылках;
- google_search_scraper: извлекает результаты из Google Search, с опциональным разбором в структурированный JSON;
- amazon_search_scraper: извлекает данные со страниц результатов поиска Amazon, с опциональным разбором в структурированный JSON;
- amazon_product_scraper: извлекает данные с отдельных страниц товаров Amazon.
Инструменты Oxylabs AI Studio
- ai_scraper: извлекает контент с любого URL с помощью ИИ-извлечения в форматах JSON, CSV, Markdown или TOON;
- ai_crawler: обходит сайт, начиная с заданного URL, на основе промпта и собирает данные с нескольких страниц;
- ai_browser_agent: управляет реальным браузером на основе промпта — перемещается, кликает, заполняет формы — и возвращает результат;
- ai_search: выполняет поиск в вебе и опционально возвращает Markdown-контент каждого результата;
- ai_map: составляет карту URL-адресов сайта, фильтруя по ключевым словам или промпту;
- generate_schema: генерирует JSON-схему в формате OpenAPI для структурированного извлечения с помощью указанных выше ИИ-инструментов.
✅ Предварительные требования
Перед началом убедитесь, что у вас есть хотя бы одно из следующего:
- Аккаунт Oxylabs Web Scraper API: получите имя пользователя и пароль на Oxylabs (доступна бесплатная пробная версия на 1 неделю);
- Ключ API Oxylabs AI Studio: получите ключ API на Oxylabs AI Studio (1000 бесплатных кредитов).
Вам также понадобится пакетный менеджер uv для запуска сервера:
# macOS and Linux
curl -LsSf https://astral.sh/uv/install.sh | sh
# Windows
powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex"
📦 Конфигурация
Переменные окружения
Сервер Oxylabs MCP поддерживает следующие переменные окружения:
| Имя | Описание | По умолчанию |
|---|---|---|
OXYLABS_USERNAME | Ваше имя пользователя Oxylabs Web Scraper API | |
OXYLABS_PASSWORD | Ваш пароль Oxylabs Web Scraper API | |
OXYLABS_AI_STUDIO_API_KEY | Ваш ключ API Oxylabs AI Studio | |
LOG_LEVEL | Уровень журналирования для логов, возвращаемых клиенту | INFO |
В зависимости от предоставленных учётных данных сервер автоматически открывает соответствующие инструменты:
- Если указаны только
OXYLABS_USERNAMEиOXYLABS_PASSWORD, сервер открывает инструменты Web Scraper API; - Если указан только
OXYLABS_AI_STUDIO_API_KEY, сервер открывает инструменты AI Studio; - Если указаны все три, сервер открывает все инструменты.
❗ Важно: устанавливайте только те переменные окружения, для которых у вас есть реальные учётные данные. Если оставить значения-заглушки, будут открыты инструменты, которые не работают.
Настройка с помощью uvx
Устанавливает пакет из PyPI и запускает его автоматически:
{
"mcpServers": {
"oxylabs": {
"command": "uvx",
"args": ["oxylabs-mcp"],
"env": {
"OXYLABS_USERNAME": "YOUR_USERNAME",
"OXYLABS_PASSWORD": "YOUR_PASSWORD",
"OXYLABS_AI_STUDIO_API_KEY": "YOUR_API_KEY"
}
}
}
}
Настройка с локальной копией репозитория
Полезно для разработки — запускает сервер из локального клона этого репозитория:
{
"mcpServers": {
"oxylabs": {
"command": "uv",
"args": [
"--directory",
"/<absolute-path-to-folder>/oxylabs-mcp",
"run",
"oxylabs-mcp"
],
"env": {
"OXYLABS_USERNAME": "YOUR_USERNAME",
"OXYLABS_PASSWORD": "YOUR_PASSWORD",
"OXYLABS_AI_STUDIO_API_KEY": "YOUR_API_KEY"
}
}
}
}
Запуск в качестве удалённого HTTP-сервера (самостоятельный хостинг)
Сервер также поддерживает потоковый HTTP-транспорт MCP. Запустите его с помощью:
MCP_TRANSPORT=streamable-http MCP_HOST=0.0.0.0 MCP_PORT=8000 uvx oxylabs-mcp
При HTTP-транспорте учётные данные передаются в каждом запросе, а не через переменные окружения:
| Учётные данные | Как передавать |
|---|---|
| Web Scraper API | Authorization: Basic <base64(username:password)> (стандартная HTTP Basic-аутентификация) |
| Web Scraper API (альтернативно) | заголовки X-Oxylabs-Username и X-Oxylabs-Password |
| AI Studio | заголовок X-Oxylabs-AI-Studio-Api-Key |
Пример конфигурации клиента:
{
"mcpServers": {
"oxylabs": {
"url": "https://your-host:8000/mcp",
"headers": {
"Authorization": "Basic <base64 of username:password>",
"X-Oxylabs-AI-Studio-Api-Key": "YOUR_API_KEY"
}
}
}
}
Все инструменты всегда перечислены независимо от предоставленных учётных данных; вызов инструмента без необходимых учётных данных возвращает сообщение об ошибке с точным объяснением, что нужно настроить.
Настройка с Claude Desktop
Перейдите в Claude → Settings → Developer → Edit Config и добавьте одну из конфигураций выше в файл claude_desktop_config.json.
Настройка с Cursor AI
Перейдите в Cursor → Settings → Cursor Settings → MCP. Нажмите Add new global MCP server и добавьте одну из конфигураций выше.
📝 Журналирование
Сервер предоставляет дополнительную информацию о вызовах инструментов в событиях notification/message:
{
"method": "notifications/message",
"params": {
"level": "info",
"data": "Create job with params: {\"url\": \"https://ip.oxylabs.io\"}"
}
}
{
"method": "notifications/message",
"params": {
"level": "info",
"data": "Job info: job_id=7333113830223918081 job_status=done"
}
}
{
"method": "notifications/message",
"params": {
"level": "error",
"data": "Error: request to Oxylabs API failed"
}
}
✨ Ключевые возможности
Извлекайте контент с любого сайта
- Извлекайте данные с любого URL, включая сложные одностраничные приложения
- Полностью отображайте динамические сайты с помощью поддержки headless-браузера
- Выбирайте полный рендеринг JavaScript, только HTML или его отсутствие
- Эмулируйте мобильные и настольные viewport для реалистичного рендеринга
Автоматически получайте данные, готовые для ИИ
- Автоматически очищайте и конвертируйте HTML в Markdown для улучшенной читаемости
- Используйте автоматические парсеры для популярных ресурсов, таких как Google, Amazon и другие
Управляйте CAPTCHA и геоограничениями
- Обходите сложные системы автоматического управления запросами с высоким процентом успеха
- Надёжно извлекайте данные даже с самых сложных сайтов
- Получайте автоматически ротируемые IP-адреса из пула прокси, охватывающего более 195 стран
Гибкая настройка и кроссплатформенная поддержка
- При необходимости задавайте параметры рендеринга и разбора
- Передавайте данные напрямую в ИИ-модели или инструменты аналитики
- Работает на macOS, Windows и Linux
Встроенная обработка ошибок и управление запросами
- Комплексная обработка ошибок и отчётность
- Умное ограничение частоты запросов и управление ими
Почему Oxylabs MCP? 🕸️ ➜ 📦 ➜ 🤖
Представьте, что вы говорите своей LLM "Подытожь последнее обсуждение Hacker News о GPT‑5" — и она просто отвечает. Сервер Oxylabs MCP делает это возможным, выполняя скучную работу за вас:
| Что делает Oxylabs MCP | Почему это важно для вас |
|---|---|
| Управляет автоматическими системами защиты запросов с помощью глобальной прокси-сети Oxylabs | Обеспечивает доступ к сайтам и анонимность |
| Рендерит JavaScript в headless Chrome | Одностраничные приложения — решено |
| Очищает HTML → Markdown | Можно сразу помещать в векторные БД или промпты |
| Опциональные структурированные парсеры (Google, Amazon и др.) | Доступ к популярным ресурсам в одну строку |
🛡️ Лицензия
Распространяется по лицензии MIT — подробности см. в LICENSE.
Об Oxylabs
Основанная в 2015 году, Oxylabs является ведущей платформой сбора веб-разведданных, руководствующейся высочайшими стандартами бизнеса, этики и соответствия требованиям, позволяющей компаниям по всему миру получать аналитические данные.
mcp-name: io.oxylabs/oxylabs-mcp
