Oxylabs

chính thức

Scrape các trang web với Oxylabs Web API, hỗ trợ kết xuất động và phân tích để trích xuất dữ liệu có cấu trúc.

Bạn có thể làm gì với Oxylabs MCP?

Yêu cầu trợ lý AI của bạn thu thập, tìm kiếm và trích xuất dữ liệu web có cấu trúc bằng các công cụ thu thập và AI của Oxylabs.

  • Thu thập bất kỳ URL nào — Sử dụng universal_scraper để tải một trang có tùy chọn kết xuất JavaScript và nhắm mục tiêu theo khu vực địa lý, trả về Markdown, HTML hoặc các liên kết.
  • Trích xuất kết quả Google — Yêu cầu google_search_scraper kéo kết quả tìm kiếm và phân tích chúng thành JSON có cấu trúc.
  • Trích xuất hỗ trợ AI — Sử dụng ai_scraper để trích xuất nội dung từ bất kỳ URL nào thành định dạng JSON, CSV, Markdown hoặc TOON.
  • Thu thập một trang web — Yêu cầu ai_crawler thu thập từ một URL bắt đầu dựa trên lời nhắc và thu thập dữ liệu trên nhiều trang.
  • Điều khiển trình duyệt — Sử dụng ai_browser_agent để điều hướng, nhấp chuột và điền biểu mẫu trong trình duyệt thực dựa trên lời nhắc.

Tài liệu

Oxylabs + MCP

Oxylabs MCP Server

Mắt xích còn thiếu giữa các mô hình AI và web thực tế: một API duy nhất cung cấp dữ liệu sạch, có cấu trúc từ bất kỳ trang web nào.


📖 Tổng quan

Máy chủ Oxylabs MCP cung cấp cầu nối giữa các mô hình AI và web. Nó cho phép chúng thu thập dữ liệu từ bất kỳ URL nào, hiển thị các trang nặng JavaScript, trích xuất và định dạng nội dung cho AI sử dụng, xử lý CAPTCHA và truy cập dữ liệu web bị giới hạn địa lý từ hơn 195 quốc gia.

Nó được xây dựng trên Giao thức Ngữ cảnh Mô hình (MCP), tiêu chuẩn mở để kết nối trợ lý AI với các công cụ và dữ liệu bên ngoài.

🛠️ Công cụ MCP

Oxylabs MCP cung cấp hai bộ công cụ có thể sử dụng cùng nhau hoặc độc lập:

Công cụ Oxylabs Web Scraper API

  1. universal_scraper: thu thập dữ liệu từ bất kỳ URL nào, với tùy chọn hiển thị JavaScript, nhắm mục tiêu địa lý và đầu ra Markdown/HTML/liên kết;
  2. google_search_scraper: trích xuất kết quả từ Google Search, với tùy chọn phân tích cú pháp thành JSON có cấu trúc;
  3. amazon_search_scraper: thu thập dữ liệu từ các trang kết quả tìm kiếm Amazon, với tùy chọn phân tích cú pháp thành JSON có cấu trúc;
  4. amazon_product_scraper: trích xuất dữ liệu từ các trang sản phẩm Amazon riêng lẻ.

Công cụ Oxylabs AI Studio

  1. ai_scraper: thu thập nội dung từ bất kỳ URL nào với trích xuất hỗ trợ AI, ở định dạng JSON, CSV, Markdown hoặc TOON;
  2. ai_crawler: thu thập dữ liệu từ một trang web bắt đầu từ URL dựa trên lời nhắc và thu thập dữ liệu trên nhiều trang;
  3. ai_browser_agent: điều khiển trình duyệt thực dựa trên lời nhắc — điều hướng, nhấp chuột, điền biểu mẫu — và trả về kết quả;
  4. ai_search: tìm kiếm trên web và tùy chọn trả về nội dung Markdown của từng kết quả;
  5. ai_map: lập bản đồ các URL của trang web, lọc theo từ khóa hoặc lời nhắc;
  6. generate_schema: tạo lược đồ JSON định dạng OpenAPI để trích xuất có cấu trúc với các công cụ AI ở trên.

✅ Điều kiện tiên quyết

Trước khi bắt đầu, hãy đảm bảo bạn có ít nhất một trong những điều sau:

  • Tài khoản Oxylabs Web Scraper API: lấy tên người dùng và mật khẩu từ Oxylabs (có bản dùng thử miễn phí 1 tuần);
  • Khóa API Oxylabs AI Studio: lấy khóa API từ Oxylabs AI Studio (1000 tín dụng miễn phí).

Bạn cũng cần trình quản lý gói uv để chạy máy chủ:

# macOS and Linux
curl -LsSf https://astral.sh/uv/install.sh | sh
# Windows
powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex"

📦 Cấu hình

Biến môi trường

Máy chủ Oxylabs MCP hỗ trợ các biến môi trường sau:

TênMô tảMặc định
OXYLABS_USERNAMETên người dùng Oxylabs Web Scraper API của bạn
OXYLABS_PASSWORDMật khẩu Oxylabs Web Scraper API của bạn
OXYLABS_AI_STUDIO_API_KEYKhóa API Oxylabs AI Studio của bạn
LOG_LEVELMức độ ghi nhật ký cho các nhật ký trả về cho máy kháchINFO

Dựa trên thông tin xác thực được cung cấp, máy chủ tự động hiển thị các công cụ tương ứng:

  • Nếu chỉ cung cấp OXYLABS_USERNAMEOXYLABS_PASSWORD, máy chủ hiển thị các công cụ Web Scraper API;
  • Nếu chỉ cung cấp OXYLABS_AI_STUDIO_API_KEY, máy chủ hiển thị các công cụ AI Studio;
  • Nếu cung cấp cả ba, máy chủ hiển thị tất cả các công cụ.

Quan trọng: chỉ đặt các biến môi trường mà bạn có thông tin xác thực thực sự. Để lại các giá trị giữ chỗ sẽ dẫn đến các công cụ được hiển thị nhưng không hoạt động.

Cấu hình với uvx

Cài đặt gói từ PyPI và chạy tự động:

{
  "mcpServers": {
    "oxylabs": {
      "command": "uvx",
      "args": ["oxylabs-mcp"],
      "env": {
        "OXYLABS_USERNAME": "YOUR_USERNAME",
        "OXYLABS_PASSWORD": "YOUR_PASSWORD",
        "OXYLABS_AI_STUDIO_API_KEY": "YOUR_API_KEY"
      }
    }
  }
}

Cấu hình với bản sao cục bộ

Hữu ích cho phát triển — chạy máy chủ từ bản sao cục bộ của kho lưu trữ này:

{
  "mcpServers": {
    "oxylabs": {
      "command": "uv",
      "args": [
        "--directory",
        "/<absolute-path-to-folder>/oxylabs-mcp",
        "run",
        "oxylabs-mcp"
      ],
      "env": {
        "OXYLABS_USERNAME": "YOUR_USERNAME",
        "OXYLABS_PASSWORD": "YOUR_PASSWORD",
        "OXYLABS_AI_STUDIO_API_KEY": "YOUR_API_KEY"
      }
    }
  }
}

Chạy như máy chủ HTTP từ xa (tự lưu trữ)

Máy chủ cũng hỗ trợ giao thức truyền tải streamable-HTTP của MCP. Khởi động nó với:

MCP_TRANSPORT=streamable-http MCP_HOST=0.0.0.0 MCP_PORT=8000 uvx oxylabs-mcp

Với giao thức HTTP, thông tin xác thực được truyền theo từng yêu cầu thay vì biến môi trường:

Thông tin xác thựcCách truyền
Web Scraper APIAuthorization: Basic <base64(username:password)> (xác thực HTTP Basic tiêu chuẩn)
Web Scraper API (thay thế)X-Oxylabs-Username và tiêu đề X-Oxylabs-Password
AI StudioTiêu đề X-Oxylabs-AI-Studio-Api-Key

Ví dụ cấu hình máy khách:

{
  "mcpServers": {
    "oxylabs": {
      "url": "https://your-host:8000/mcp",
      "headers": {
        "Authorization": "Basic <base64 of username:password>",
        "X-Oxylabs-AI-Studio-Api-Key": "YOUR_API_KEY"
      }
    }
  }
}

Tất cả các công cụ luôn được liệt kê bất kể thông tin xác thực được cung cấp; gọi một công cụ mà không có thông tin xác thực cần thiết sẽ trả về thông báo lỗi giải thích chính xác những gì cần cấu hình.

Thiết lập với Claude Desktop

Điều hướng đến Claude → Settings → Developer → Edit Config và thêm một trong các cấu hình ở trên vào tệp claude_desktop_config.json.

Thiết lập với Cursor AI

Điều hướng đến Cursor → Settings → Cursor Settings → MCP. Nhấp Add new global MCP server và thêm một trong các cấu hình ở trên.

📝 Ghi nhật ký

Máy chủ cung cấp thông tin bổ sung về các lệnh gọi công cụ trong các sự kiện notification/message:

{
  "method": "notifications/message",
  "params": {
    "level": "info",
    "data": "Create job with params: {\"url\": \"https://ip.oxylabs.io\"}"
  }
}
{
  "method": "notifications/message",
  "params": {
    "level": "info",
    "data": "Job info: job_id=7333113830223918081 job_status=done"
  }
}
{
  "method": "notifications/message",
  "params": {
    "level": "error",
    "data": "Error: request to Oxylabs API failed"
  }
}

✨ Tính năng chính

Thu thập nội dung từ bất kỳ trang web nào
  • Trích xuất dữ liệu từ bất kỳ URL nào, bao gồm cả các ứng dụng một trang phức tạp
  • Hiển thị đầy đủ các trang web động bằng hỗ trợ trình duyệt headless
  • Chọn hiển thị JavaScript đầy đủ, chỉ HTML hoặc không
  • Mô phỏng khung nhìn Di động và Máy tính để để hiển thị thực tế
Tự động nhận dữ liệu sẵn sàng cho AI
  • Tự động làm sạch và chuyển đổi HTML sang Markdown để cải thiện khả năng đọc
  • Sử dụng trình phân tích cú pháp tự động cho các mục tiêu phổ biến như Google, Amazon và hơn thế nữa
Quản lý CAPTCHA & giới hạn địa lý
  • Điều hướng các hệ thống quản lý yêu cầu tự động tinh vi với tỷ lệ thành công cao
  • Thu thập dữ liệu đáng tin cậy ngay cả những trang web phức tạp nhất
  • Tự động xoay IP từ nhóm proxy bao phủ hơn 195 quốc gia
Thiết lập linh hoạt & hỗ trợ đa nền tảng
  • Đặt tùy chọn hiển thị và phân tích cú pháp nếu cần
  • Đưa dữ liệu trực tiếp vào mô hình AI hoặc công cụ phân tích
  • Hoạt động trên macOS, Windows và Linux
Xử lý lỗi và quản lý yêu cầu tích hợp
  • Xử lý lỗi và báo cáo toàn diện
  • Giới hạn tốc độ thông minh và quản lý yêu cầu

Tại sao chọn Oxylabs MCP?  🕸️ ➜ 📦 ➜ 🤖

Hãy tưởng tượng bạn nói với LLM của mình "Tóm tắt cuộc thảo luận Hacker News mới nhất về GPT‑5" – và nó chỉ cần trả lời. Máy chủ Oxylabs MCP làm điều đó bằng cách thực hiện những phần nhàm chán cho bạn:

Oxylabs MCP làm gìTại sao nó quan trọng với bạn
Quản lý các bức tường yêu cầu tự động với mạng proxy toàn cầu OxylabsCho phép truy cập trang web và ẩn danh
Hiển thị JavaScript trong Chrome headlessỨng dụng một trang, đã được xử lý
Làm sạch HTML → MarkdownĐưa trực tiếp vào cơ sở dữ liệu vector hoặc lời nhắc
Trình phân tích cú pháp có cấu trúc tùy chọn (Google, Amazon, v.v.)Truy cập một dòng vào các mục tiêu phổ biến

🛡️ Giấy phép

Phân phối theo Giấy phép MIT – xem LICENSE để biết chi tiết.


Về Oxylabs

Được thành lập vào năm 2015, Oxylabs là nền tảng thu thập thông tin web hàng đầu thị trường, được thúc đẩy bởi các tiêu chuẩn kinh doanh, đạo đức và tuân thủ cao nhất, cho phép các công ty trên toàn thế giới khai thác thông tin chi tiết dựa trên dữ liệu.

image

Được tạo bằng ☕ bởi Oxylabs. Hãy cho chúng tôi một ⭐ nếu MCP cứu bạn một cuối tuần.

mcp-name: io.oxylabs/oxylabs-mcp