Oxylabs
официальныйСкрейпинг веб-сайтов с помощью Oxylabs Web API, поддерживающий динамический рендеринг и парсинг для извлечения структурированных данных.
Что можно делать с Oxylabs MCP?
- Scrape any URL — Ask your assistant to fetch and extract content from any webpage using
universal_scraper, with optional JavaScript rendering and geo-targeting. - Search Google and Amazon — Use
google_search_scraper,amazon_search_scraper, oramazon_product_scraperto pull structured results from these platforms. - AI-powered extraction — Leverage
ai_scraperto scrape any URL and return data in JSON, CSV, Markdown, or TOON formats. - Crawl and map websites — Use
ai_crawlerto collect data across multiple pages from a starting URL, orai_mapto list site URLs filtered by keywords. - Automate browser tasks — Delegate navigation, clicking, and form-filling to
ai_browser_agent, which controls a real browser based on a prompt. - Generate extraction schemas — Ask for an OpenAPI-format JSON schema via
generate_schemato structure data extraction with AI tools.
Документация
Oxylabs MCP Server
Недостающее звено между моделями ИИ и реальным вебом: один API, который предоставляет чистые, структурированные данные с любого сайта.
📖 Обзор
Сервер Oxylabs MCP обеспечивает мост между моделями ИИ и вебом. Он позволяет им извлекать данные с любого URL, отображать страницы с интенсивным использованием JavaScript, извлекать и форматировать контент для использования ИИ, управлять CAPTCHA и получать доступ к геоограниченным веб-данным из более чем 195 стран.
Он построен на Протоколе контекста модели (MCP), открытом стандарте для подключения ИИ-ассистентов к внешним инструментам и данным.
🛠️ Инструменты MCP
Oxylabs MCP предоставляет два набора инструментов, которые можно использовать вместе или независимо:
Инструменты Oxylabs Web Scraper API
- universal_scraper: извлекает данные с любого URL, с опциональным рендерингом JavaScript, геотаргетингом и выводом в Markdown/HTML/ссылках;
- google_search_scraper: извлекает результаты из Google Search, с опциональным парсингом в структурированный JSON;
- amazon_search_scraper: извлекает данные со страниц результатов поиска Amazon, с опциональным парсингом в структурированный JSON;
- amazon_product_scraper: извлекает данные с отдельных страниц товаров Amazon.
Инструменты Oxylabs AI Studio
- ai_scraper: извлекает контент с любого URL с помощью ИИ-извлечения, в форматах JSON, CSV, Markdown или TOON;
- ai_crawler: обходит веб-сайт с начального URL на основе промпта и собирает данные с нескольких страниц;
- ai_browser_agent: управляет реальным браузером на основе промпта — навигация, клики, заполнение форм — и возвращает результат;
- ai_search: выполняет поиск в вебе и опционально возвращает Markdown-контент каждого результата;
- ai_map: составляет карту URL-адресов веб-сайта, фильтруя по ключевым словам или промпту;
- generate_schema: генерирует JSON-схему в формате OpenAPI для структурированного извлечения с помощью указанных выше ИИ-инструментов.
✅ Предварительные требования
Перед началом убедитесь, что у вас есть хотя бы одно из следующего:
- Учётная запись Oxylabs Web Scraper API: получите имя пользователя и пароль на Oxylabs (доступна бесплатная пробная версия на 1 неделю);
- Ключ API Oxylabs AI Studio: получите ключ API на Oxylabs AI Studio (1000 бесплатных кредитов).
Для локального запуска сервера (вариант 2 ниже) также потребуется менеджер пакетов uv:
# macOS and Linux
curl -LsSf https://astral.sh/uv/install.sh | sh
# Windows
powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex"
📦 Конфигурация
Есть два способа использования сервера: подключение к размещённому экземпляру (без установки) или локальный запуск с учётными данными в переменных окружения.
Вариант 1: Размещённый сервер (без установки)
Oxylabs запускает размещённый MCP-сервер по адресу:
https://mcp.oxylabs.io/mcp
Учётные данные передаются в заголовках запросов:
| Учётные данные | Заголовок |
|---|---|
| Web Scraper API | Authorization: Basic <base64(username:password)> |
| Web Scraper API (альтернативный) | X-Oxylabs-Username и X-Oxylabs-Password |
| AI Studio | X-Oxylabs-AI-Studio-Api-Key |
Настройка с Claude Code:
claude mcp add --transport http oxylabs https://mcp.oxylabs.io/mcp \
--header "Authorization: Basic $(echo -n 'YOUR_USERNAME:YOUR_PASSWORD' | base64)" \
--header "X-Oxylabs-AI-Studio-Api-Key: YOUR_API_KEY"
Настройка с Cursor или любым клиентом, поддерживающим удалённые MCP-серверы с пользовательскими заголовками:
{
"mcpServers": {
"oxylabs": {
"url": "https://mcp.oxylabs.io/mcp",
"headers": {
"Authorization": "Basic <base64 of username:password>",
"X-Oxylabs-AI-Studio-Api-Key": "YOUR_API_KEY"
}
}
}
}
Сервер также указан на Smithery.
Примечание: клиенты, поддерживающие только OAuth для удалённых серверов (например, добавление пользовательского коннектора в веб-интерфейсе claude.ai), пока не могут передавать заголовки — вход через OAuth в наших планах. Используйте локальную настройку ниже с такими клиентами в это время.
Вариант 2: Локальный запуск
Переменные окружения
Сервер Oxylabs MCP поддерживает следующие переменные окружения:
| Имя | Описание | По умолчанию |
|---|---|---|
OXYLABS_USERNAME | Ваше имя пользователя Oxylabs Web Scraper API | |
OXYLABS_PASSWORD | Ваш пароль Oxylabs Web Scraper API | |
OXYLABS_AI_STUDIO_API_KEY | Ваш ключ API Oxylabs AI Studio | |
LOG_LEVEL | Уровень журналирования для логов, возвращаемых клиенту | INFO |
На основе предоставленных учётных данных сервер автоматически открывает соответствующие инструменты:
- Если указаны только
OXYLABS_USERNAMEиOXYLABS_PASSWORD, сервер открывает инструменты Web Scraper API; - Если указан только
OXYLABS_AI_STUDIO_API_KEY, сервер открывает инструменты AI Studio; - Если указаны все три, сервер открывает все инструменты.
❗ Важно: устанавливайте только те переменные окружения, для которых у вас есть реальные учётные данные. Оставление значений-заглушек приведёт к открытию инструментов, которые не работают.
Настройка с uvx
Устанавливает пакет из PyPI и запускает его автоматически:
{
"mcpServers": {
"oxylabs": {
"command": "uvx",
"args": ["oxylabs-mcp"],
"env": {
"OXYLABS_USERNAME": "YOUR_USERNAME",
"OXYLABS_PASSWORD": "YOUR_PASSWORD",
"OXYLABS_AI_STUDIO_API_KEY": "YOUR_API_KEY"
}
}
}
}
Настройка с локальной копией
Полезно для разработки — запускает сервер из локального клона этого репозитория:
{
"mcpServers": {
"oxylabs": {
"command": "uv",
"args": [
"--directory",
"/<absolute-path-to-folder>/oxylabs-mcp",
"run",
"oxylabs-mcp"
],
"env": {
"OXYLABS_USERNAME": "YOUR_USERNAME",
"OXYLABS_PASSWORD": "YOUR_PASSWORD",
"OXYLABS_AI_STUDIO_API_KEY": "YOUR_API_KEY"
}
}
}
}
Запуск как удалённый HTTP-сервер (самостоятельное размещение)
Сервер также поддерживает MCP-транспорт streamable-HTTP. Запустите его с помощью:
MCP_TRANSPORT=streamable-http MCP_HOST=0.0.0.0 MCP_PORT=8000 uvx oxylabs-mcp
С HTTP-транспортом учётные данные передаются в каждом запросе, а не через переменные окружения:
| Учётные данные | Как передать |
|---|---|
| Web Scraper API | Authorization: Basic <base64(username:password)> (стандартная HTTP Basic-аутентификация) |
| Web Scraper API (альтернативный) | X-Oxylabs-Username и X-Oxylabs-Password заголовки |
| AI Studio | X-Oxylabs-AI-Studio-Api-Key заголовок |
Пример конфигурации клиента:
{
"mcpServers": {
"oxylabs": {
"url": "https://your-host:8000/mcp",
"headers": {
"Authorization": "Basic <base64 of username:password>",
"X-Oxylabs-AI-Studio-Api-Key": "YOUR_API_KEY"
}
}
}
}
Все инструменты всегда перечислены независимо от предоставленных учётных данных; вызов инструмента без необходимых учётных данных возвращает сообщение об ошибке с объяснением, что именно нужно настроить.
Настройка с Claude Desktop
Перейдите в Claude → Настройки → Разработчик → Изменить конфигурацию и добавьте одну из конфигураций выше в файл claude_desktop_config.json.
Настройка с Cursor AI
Перейдите в Cursor → Настройки → Настройки Cursor → MCP. Нажмите Добавить новый глобальный MCP-сервер и добавьте одну из конфигураций выше.
📝 Журналирование
Сервер предоставляет дополнительную информацию о вызовах инструментов в событиях notification/message:
{
"method": "notifications/message",
"params": {
"level": "info",
"data": "Create job with params: {\"url\": \"https://ip.oxylabs.io\"}"
}
}
{
"method": "notifications/message",
"params": {
"level": "info",
"data": "Job info: job_id=7333113830223918081 job_status=done"
}
}
{
"method": "notifications/message",
"params": {
"level": "error",
"data": "Error: request to Oxylabs API failed"
}
}
✨ Ключевые возможности
Извлекайте контент с любого сайта
- Извлекайте данные с любого URL, включая сложные одностраничные приложения
- Полностью отображайте динамические веб-сайты с помощью поддержки headless-браузера
- Выбирайте полный рендеринг JavaScript, только HTML или отсутствие рендеринга
- Эмулируйте мобильные и настольные видовые экраны для реалистичного отображения
Автоматически получайте данные, готовые для ИИ
- Автоматически очищайте и конвертируйте HTML в Markdown для улучшенной читаемости
- Используйте автоматические парсеры для популярных целей, таких как Google, Amazon и другие
Управляйте CAPTCHA и геоограничениями
- Обходите сложные системы автоматического управления запросами с высоким процентом успеха
- Надёжно извлекайте данные даже с самых сложных веб-сайтов
- Получайте автоматически ротируемые IP-адреса из пула прокси, охватывающего более 195 стран
Гибкая настройка и кроссплатформенная поддержка
- При необходимости настраивайте параметры рендеринга и парсинга
- Подавайте данные напрямую в модели ИИ или инструменты аналитики
- Работает на macOS, Windows и Linux
Встроенная обработка ошибок и управление запросами
- Комплексная обработка ошибок и отчётность
- Умное ограничение скорости и управление запросами
Почему Oxylabs MCP? 🕸️ ➜ 📦 ➜ 🤖
Представьте, что вы говорите своей LLM "Обобщи последнее обсуждение Hacker News о GPT‑5" – и она просто отвечает. Сервер Oxylabs MCP делает это возможным, выполняя скучные части за вас:
| Что делает Oxylabs MCP | Почему это важно для вас |
|---|---|
| Управляет стенами автоматических запросов с помощью глобальной прокси-сети Oxylabs | Обеспечивает доступ к веб-сайтам и анонимность |
| Отображает JavaScript в headless Chrome | Одностраничные приложения, решено |
| Очищает HTML → Markdown | Прямая загрузка в векторные БД или промпты |
| Опциональные структурированные парсеры (Google, Amazon и т. д.) | Доступ к популярным целям в одну строку |
🛡️ Лицензия
Распространяется под лицензией MIT — см. LICENSE для подробностей.
Об Oxylabs
Основанная в 2015 году, Oxylabs — это ведущая платформа для сбора веб-интеллекта, руководствующаяся высочайшими стандартами бизнеса, этики и соответствия, позволяющая компаниям по всему миру получать аналитические данные на основе данных.
mcp-name: io.oxylabs/oxylabs-mcp
