Oxylabs

resmi

Scrape situs web dengan Oxylabs Web API, mendukung rendering dinamis dan parsing untuk ekstraksi data terstruktur.

Apa yang bisa Anda lakukan dengan Oxylabs MCP?

Minta asisten AI Anda untuk mengikis, mencari, dan mengekstrak data web terstruktur menggunakan alat pengikisan dan AI Oxylabs.

  • Kikis URL apa pun — Gunakan universal_scraper untuk mengambil halaman dengan rendering JavaScript opsional dan penargetan geo, mengembalikan Markdown, HTML, atau tautan.
  • Ekstrak hasil Google — Minta google_search_scraper untuk menarik hasil pencarian dan menguraikannya menjadi JSON terstruktur.
  • Ekstraksi bertenaga AI — Gunakan ai_scraper untuk mengekstrak konten dari URL apa pun ke format JSON, CSV, Markdown, atau TOON.
  • Jelajahi situs web — Minta ai_crawler untuk merayapi dari URL awal berdasarkan perintah dan mengumpulkan data di beberapa halaman.
  • Kontrol browser — Gunakan ai_browser_agent untuk menavigasi, mengklik, dan mengisi formulir di browser asli berdasarkan perintah.

Dokumentasi

Oxylabs + MCP

Server MCP Oxylabs

Mata rantai yang hilang antara model AI dan web dunia nyata: satu API yang mengirimkan data bersih dan terstruktur dari situs mana pun.


📖 Ringkasan

Server MCP Oxylabs menyediakan jembatan antara model AI dan web. Server ini memungkinkan mereka untuk mengikis URL apa pun, merender halaman yang sarat JavaScript, mengekstrak dan memformat konten untuk penggunaan AI, mengelola CAPTCHA, serta mengakses data web yang dibatasi geografis dari 195+ negara.

Server ini dibangun di atas Model Context Protocol (MCP), standar terbuka untuk menghubungkan asisten AI ke alat dan data eksternal.

🛠️ Alat MCP

Oxylabs MCP menyediakan dua kelompok alat yang dapat digunakan bersama atau secara terpisah:

Alat Oxylabs Web Scraper API

  1. universal_scraper: mengikis URL apa pun, dengan opsi rendering JavaScript, penargetan geografis, dan keluaran Markdown/HTML/tautan;
  2. google_search_scraper: mengekstrak hasil dari Google Search, dengan opsi penguraian menjadi JSON terstruktur;
  3. amazon_search_scraper: mengikis halaman hasil pencarian Amazon, dengan opsi penguraian menjadi JSON terstruktur;
  4. amazon_product_scraper: mengekstrak data dari halaman produk Amazon individual.

Alat Oxylabs AI Studio

  1. ai_scraper: mengikis konten dari URL apa pun dengan ekstraksi berbasis AI, dalam format JSON, CSV, Markdown, atau TOON;
  2. ai_crawler: merayapi situs web dari URL awal berdasarkan prompt dan mengumpulkan data di berbagai halaman;
  3. ai_browser_agent: mengontrol browser sungguhan berdasarkan prompt — menavigasi, mengeklik, mengisi formulir — dan mengembalikan hasilnya;
  4. ai_search: mencari di web dan secara opsional mengembalikan konten Markdown dari setiap hasil;
  5. ai_map: memetakan URL situs web, difilter berdasarkan kata kunci atau prompt;
  6. generate_schema: menghasilkan skema JSON format OpenAPI untuk ekstraksi terstruktur dengan alat AI di atas.

✅ Prasyarat

Sebelum memulai, pastikan Anda memiliki setidaknya satu dari berikut ini:

  • Akun Oxylabs Web Scraper API: dapatkan nama pengguna dan kata sandi Anda dari Oxylabs (tersedia uji coba gratis 1 minggu);
  • Kunci API Oxylabs AI Studio: dapatkan kunci API Anda dari Oxylabs AI Studio (1000 kredit gratis).

Anda juga memerlukan manajer paket uv untuk menjalankan server:

# macOS and Linux
curl -LsSf https://astral.sh/uv/install.sh | sh
# Windows
powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex"

📦 Konfigurasi

Variabel lingkungan

Server MCP Oxylabs mendukung variabel lingkungan berikut:

NamaDeskripsiDefault
OXYLABS_USERNAMENama pengguna Oxylabs Web Scraper API Anda
OXYLABS_PASSWORDKata sandi Oxylabs Web Scraper API Anda
OXYLABS_AI_STUDIO_API_KEYKunci API Oxylabs AI Studio Anda
LOG_LEVELTingkat log untuk log yang dikembalikan ke klienINFO

Berdasarkan kredensial yang diberikan, server secara otomatis mengekspos alat yang sesuai:

  • Jika hanya OXYLABS_USERNAME dan OXYLABS_PASSWORD yang diberikan, server mengekspos alat Web Scraper API;
  • Jika hanya OXYLABS_AI_STUDIO_API_KEY yang diberikan, server mengekspos alat AI Studio;
  • Jika ketiganya diberikan, server mengekspos semua alat.

Penting: hanya atur variabel lingkungan yang Anda miliki kredensial aslinya. Membiarkan nilai placeholder akan menghasilkan alat yang terekspos tetapi tidak berfungsi.

Konfigurasi dengan uvx

Menginstal paket dari PyPI dan menjalankannya secara otomatis:

{
  "mcpServers": {
    "oxylabs": {
      "command": "uvx",
      "args": ["oxylabs-mcp"],
      "env": {
        "OXYLABS_USERNAME": "YOUR_USERNAME",
        "OXYLABS_PASSWORD": "YOUR_PASSWORD",
        "OXYLABS_AI_STUDIO_API_KEY": "YOUR_API_KEY"
      }
    }
  }
}

Konfigurasi dengan checkout lokal

Berguna untuk pengembangan — menjalankan server dari klon lokal repositori ini:

{
  "mcpServers": {
    "oxylabs": {
      "command": "uv",
      "args": [
        "--directory",
        "/<absolute-path-to-folder>/oxylabs-mcp",
        "run",
        "oxylabs-mcp"
      ],
      "env": {
        "OXYLABS_USERNAME": "YOUR_USERNAME",
        "OXYLABS_PASSWORD": "YOUR_PASSWORD",
        "OXYLABS_AI_STUDIO_API_KEY": "YOUR_API_KEY"
      }
    }
  }
}

Menjalankan sebagai server HTTP jarak jauh (self-hosting)

Server juga mendukung transport MCP streamable-HTTP. Mulai dengan:

MCP_TRANSPORT=streamable-http MCP_HOST=0.0.0.0 MCP_PORT=8000 uvx oxylabs-mcp

Dengan transport HTTP, kredensial diteruskan per permintaan alih-alih variabel lingkungan:

KredensialCara meneruskannya
Web Scraper APIAuthorization: Basic <base64(username:password)> (autentikasi HTTP Basic standar)
Web Scraper API (alternatif)X-Oxylabs-Username dan X-Oxylabs-Password header
AI StudioX-Oxylabs-AI-Studio-Api-Key header

Contoh konfigurasi klien:

{
  "mcpServers": {
    "oxylabs": {
      "url": "https://your-host:8000/mcp",
      "headers": {
        "Authorization": "Basic <base64 of username:password>",
        "X-Oxylabs-AI-Studio-Api-Key": "YOUR_API_KEY"
      }
    }
  }
}

Semua alat selalu tercantum terlepas dari kredensial yang diberikan; memanggil alat tanpa kredensial yang dibutuhkannya akan mengembalikan pesan kesalahan yang menjelaskan secara tepat apa yang harus dikonfigurasi.

Pengaturan dengan Claude Desktop

Buka Claude → Settings → Developer → Edit Config dan tambahkan salah satu konfigurasi di atas ke file claude_desktop_config.json.

Pengaturan dengan Cursor AI

Buka Cursor → Settings → Cursor Settings → MCP. Klik Add new global MCP server dan tambahkan salah satu konfigurasi di atas.

📝 Pencatatan Log

Server menyediakan informasi tambahan tentang pemanggilan alat dalam peristiwa notification/message:

{
  "method": "notifications/message",
  "params": {
    "level": "info",
    "data": "Create job with params: {\"url\": \"https://ip.oxylabs.io\"}"
  }
}
{
  "method": "notifications/message",
  "params": {
    "level": "info",
    "data": "Job info: job_id=7333113830223918081 job_status=done"
  }
}
{
  "method": "notifications/message",
  "params": {
    "level": "error",
    "data": "Error: request to Oxylabs API failed"
  }
}

✨ Fitur Utama

Kikis konten dari situs mana pun
  • Ekstrak data dari URL apa pun, termasuk aplikasi satu halaman yang kompleks
  • Render situs web dinamis sepenuhnya menggunakan dukungan browser headless
  • Pilih rendering JavaScript penuh, hanya HTML, atau tidak sama sekali
  • Emulasikan viewport Seluler dan Desktop untuk rendering yang realistis
Otomatis dapatkan data yang siap AI
  • Bersihkan dan konversi HTML menjadi Markdown secara otomatis untuk keterbacaan yang lebih baik
  • Gunakan parser otomatis untuk target populer seperti Google, Amazon, dan lainnya
Kelola CAPTCHA & pembatasan geografis
  • Navigasi sistem manajemen permintaan otomatis yang canggih dengan tingkat keberhasilan tinggi
  • Kikis situs web yang paling kompleks sekalipun secara andal
  • Dapatkan IP yang berputar otomatis dari kumpulan proxy yang mencakup 195+ negara
Pengaturan fleksibel & dukungan lintas platform
  • Atur opsi rendering dan parsing jika diperlukan
  • Masukkan data langsung ke model AI atau alat analitik
  • Berfungsi di macOS, Windows, dan Linux
Penanganan kesalahan dan manajemen permintaan bawaan
  • Penanganan dan pelaporan kesalahan yang komprehensif
  • Pembatasan kecepatan dan manajemen permintaan yang cerdas

Mengapa Oxylabs MCP?  🕸️ ➜ 📦 ➜ 🤖

Bayangkan memberi tahu LLM Anda "Ringkas diskusi Hacker News terbaru tentang GPT‑5" – dan ia hanya menjawab. Server MCP Oxylabs mewujudkannya dengan mengerjakan bagian-bagian yang membosankan untuk Anda:

Yang dilakukan Oxylabs MCPMengapa penting bagi Anda
Mengelola tembok permintaan otomatis dengan jaringan proxy global OxylabsMemungkinkan akses situs web dan anonimitas
Merender JavaScript di Chrome headlessAplikasi satu halaman, beres
Membersihkan HTML → MarkdownMasukkan langsung ke basis data vektor atau prompt
Parser terstruktur opsional (Google, Amazon, dll.)Akses satu baris ke target populer

🛡️ Lisensi

Didistribusikan di bawah Lisensi MIT – lihat LICENSE untuk detailnya.


Tentang Oxylabs

Didirikan pada tahun 2015, Oxylabs adalah platform pengumpulan intelijen web terkemuka di pasar, didorong oleh standar bisnis, etika, dan kepatuhan tertinggi, yang memberdayakan perusahaan di seluruh dunia untuk membuka wawasan berbasis data.

image

Dibuat dengan ☕ oleh Oxylabs. Jangan ragu memberi kami ⭐ jika MCP menyelamatkan akhir pekan Anda.

mcp-name: io.oxylabs/oxylabs-mcp