Oxylabs
resmiScrape situs web dengan Oxylabs Web API, mendukung rendering dinamis dan parsing untuk ekstraksi data terstruktur.
Apa yang bisa Anda lakukan dengan Oxylabs MCP?
Minta asisten AI Anda untuk mengikis, mencari, dan mengekstrak data web terstruktur menggunakan alat pengikisan dan AI Oxylabs.
- Kikis URL apa pun — Gunakan
universal_scraperuntuk mengambil halaman dengan rendering JavaScript opsional dan penargetan geo, mengembalikan Markdown, HTML, atau tautan. - Ekstrak hasil Google — Minta
google_search_scraperuntuk menarik hasil pencarian dan menguraikannya menjadi JSON terstruktur. - Ekstraksi bertenaga AI — Gunakan
ai_scraperuntuk mengekstrak konten dari URL apa pun ke format JSON, CSV, Markdown, atau TOON. - Jelajahi situs web — Minta
ai_crawleruntuk merayapi dari URL awal berdasarkan perintah dan mengumpulkan data di beberapa halaman. - Kontrol browser — Gunakan
ai_browser_agentuntuk menavigasi, mengklik, dan mengisi formulir di browser asli berdasarkan perintah.
Dokumentasi
Server MCP Oxylabs
Mata rantai yang hilang antara model AI dan web dunia nyata: satu API yang mengirimkan data bersih dan terstruktur dari situs mana pun.
📖 Ringkasan
Server MCP Oxylabs menyediakan jembatan antara model AI dan web. Server ini memungkinkan mereka untuk mengikis URL apa pun, merender halaman yang sarat JavaScript, mengekstrak dan memformat konten untuk penggunaan AI, mengelola CAPTCHA, serta mengakses data web yang dibatasi geografis dari 195+ negara.
Server ini dibangun di atas Model Context Protocol (MCP), standar terbuka untuk menghubungkan asisten AI ke alat dan data eksternal.
🛠️ Alat MCP
Oxylabs MCP menyediakan dua kelompok alat yang dapat digunakan bersama atau secara terpisah:
Alat Oxylabs Web Scraper API
- universal_scraper: mengikis URL apa pun, dengan opsi rendering JavaScript, penargetan geografis, dan keluaran Markdown/HTML/tautan;
- google_search_scraper: mengekstrak hasil dari Google Search, dengan opsi penguraian menjadi JSON terstruktur;
- amazon_search_scraper: mengikis halaman hasil pencarian Amazon, dengan opsi penguraian menjadi JSON terstruktur;
- amazon_product_scraper: mengekstrak data dari halaman produk Amazon individual.
Alat Oxylabs AI Studio
- ai_scraper: mengikis konten dari URL apa pun dengan ekstraksi berbasis AI, dalam format JSON, CSV, Markdown, atau TOON;
- ai_crawler: merayapi situs web dari URL awal berdasarkan prompt dan mengumpulkan data di berbagai halaman;
- ai_browser_agent: mengontrol browser sungguhan berdasarkan prompt — menavigasi, mengeklik, mengisi formulir — dan mengembalikan hasilnya;
- ai_search: mencari di web dan secara opsional mengembalikan konten Markdown dari setiap hasil;
- ai_map: memetakan URL situs web, difilter berdasarkan kata kunci atau prompt;
- generate_schema: menghasilkan skema JSON format OpenAPI untuk ekstraksi terstruktur dengan alat AI di atas.
✅ Prasyarat
Sebelum memulai, pastikan Anda memiliki setidaknya satu dari berikut ini:
- Akun Oxylabs Web Scraper API: dapatkan nama pengguna dan kata sandi Anda dari Oxylabs (tersedia uji coba gratis 1 minggu);
- Kunci API Oxylabs AI Studio: dapatkan kunci API Anda dari Oxylabs AI Studio (1000 kredit gratis).
Anda juga memerlukan manajer paket uv untuk menjalankan server:
# macOS and Linux
curl -LsSf https://astral.sh/uv/install.sh | sh
# Windows
powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex"
📦 Konfigurasi
Variabel lingkungan
Server MCP Oxylabs mendukung variabel lingkungan berikut:
| Nama | Deskripsi | Default |
|---|---|---|
OXYLABS_USERNAME | Nama pengguna Oxylabs Web Scraper API Anda | |
OXYLABS_PASSWORD | Kata sandi Oxylabs Web Scraper API Anda | |
OXYLABS_AI_STUDIO_API_KEY | Kunci API Oxylabs AI Studio Anda | |
LOG_LEVEL | Tingkat log untuk log yang dikembalikan ke klien | INFO |
Berdasarkan kredensial yang diberikan, server secara otomatis mengekspos alat yang sesuai:
- Jika hanya
OXYLABS_USERNAMEdanOXYLABS_PASSWORDyang diberikan, server mengekspos alat Web Scraper API; - Jika hanya
OXYLABS_AI_STUDIO_API_KEYyang diberikan, server mengekspos alat AI Studio; - Jika ketiganya diberikan, server mengekspos semua alat.
❗ Penting: hanya atur variabel lingkungan yang Anda miliki kredensial aslinya. Membiarkan nilai placeholder akan menghasilkan alat yang terekspos tetapi tidak berfungsi.
Konfigurasi dengan uvx
Menginstal paket dari PyPI dan menjalankannya secara otomatis:
{
"mcpServers": {
"oxylabs": {
"command": "uvx",
"args": ["oxylabs-mcp"],
"env": {
"OXYLABS_USERNAME": "YOUR_USERNAME",
"OXYLABS_PASSWORD": "YOUR_PASSWORD",
"OXYLABS_AI_STUDIO_API_KEY": "YOUR_API_KEY"
}
}
}
}
Konfigurasi dengan checkout lokal
Berguna untuk pengembangan — menjalankan server dari klon lokal repositori ini:
{
"mcpServers": {
"oxylabs": {
"command": "uv",
"args": [
"--directory",
"/<absolute-path-to-folder>/oxylabs-mcp",
"run",
"oxylabs-mcp"
],
"env": {
"OXYLABS_USERNAME": "YOUR_USERNAME",
"OXYLABS_PASSWORD": "YOUR_PASSWORD",
"OXYLABS_AI_STUDIO_API_KEY": "YOUR_API_KEY"
}
}
}
}
Menjalankan sebagai server HTTP jarak jauh (self-hosting)
Server juga mendukung transport MCP streamable-HTTP. Mulai dengan:
MCP_TRANSPORT=streamable-http MCP_HOST=0.0.0.0 MCP_PORT=8000 uvx oxylabs-mcp
Dengan transport HTTP, kredensial diteruskan per permintaan alih-alih variabel lingkungan:
| Kredensial | Cara meneruskannya |
|---|---|
| Web Scraper API | Authorization: Basic <base64(username:password)> (autentikasi HTTP Basic standar) |
| Web Scraper API (alternatif) | X-Oxylabs-Username dan X-Oxylabs-Password header |
| AI Studio | X-Oxylabs-AI-Studio-Api-Key header |
Contoh konfigurasi klien:
{
"mcpServers": {
"oxylabs": {
"url": "https://your-host:8000/mcp",
"headers": {
"Authorization": "Basic <base64 of username:password>",
"X-Oxylabs-AI-Studio-Api-Key": "YOUR_API_KEY"
}
}
}
}
Semua alat selalu tercantum terlepas dari kredensial yang diberikan; memanggil alat tanpa kredensial yang dibutuhkannya akan mengembalikan pesan kesalahan yang menjelaskan secara tepat apa yang harus dikonfigurasi.
Pengaturan dengan Claude Desktop
Buka Claude → Settings → Developer → Edit Config dan tambahkan salah satu konfigurasi di atas ke file claude_desktop_config.json.
Pengaturan dengan Cursor AI
Buka Cursor → Settings → Cursor Settings → MCP. Klik Add new global MCP server dan tambahkan salah satu konfigurasi di atas.
📝 Pencatatan Log
Server menyediakan informasi tambahan tentang pemanggilan alat dalam peristiwa notification/message:
{
"method": "notifications/message",
"params": {
"level": "info",
"data": "Create job with params: {\"url\": \"https://ip.oxylabs.io\"}"
}
}
{
"method": "notifications/message",
"params": {
"level": "info",
"data": "Job info: job_id=7333113830223918081 job_status=done"
}
}
{
"method": "notifications/message",
"params": {
"level": "error",
"data": "Error: request to Oxylabs API failed"
}
}
✨ Fitur Utama
Kikis konten dari situs mana pun
- Ekstrak data dari URL apa pun, termasuk aplikasi satu halaman yang kompleks
- Render situs web dinamis sepenuhnya menggunakan dukungan browser headless
- Pilih rendering JavaScript penuh, hanya HTML, atau tidak sama sekali
- Emulasikan viewport Seluler dan Desktop untuk rendering yang realistis
Otomatis dapatkan data yang siap AI
- Bersihkan dan konversi HTML menjadi Markdown secara otomatis untuk keterbacaan yang lebih baik
- Gunakan parser otomatis untuk target populer seperti Google, Amazon, dan lainnya
Kelola CAPTCHA & pembatasan geografis
- Navigasi sistem manajemen permintaan otomatis yang canggih dengan tingkat keberhasilan tinggi
- Kikis situs web yang paling kompleks sekalipun secara andal
- Dapatkan IP yang berputar otomatis dari kumpulan proxy yang mencakup 195+ negara
Pengaturan fleksibel & dukungan lintas platform
- Atur opsi rendering dan parsing jika diperlukan
- Masukkan data langsung ke model AI atau alat analitik
- Berfungsi di macOS, Windows, dan Linux
Penanganan kesalahan dan manajemen permintaan bawaan
- Penanganan dan pelaporan kesalahan yang komprehensif
- Pembatasan kecepatan dan manajemen permintaan yang cerdas
Mengapa Oxylabs MCP? 🕸️ ➜ 📦 ➜ 🤖
Bayangkan memberi tahu LLM Anda "Ringkas diskusi Hacker News terbaru tentang GPT‑5" – dan ia hanya menjawab. Server MCP Oxylabs mewujudkannya dengan mengerjakan bagian-bagian yang membosankan untuk Anda:
| Yang dilakukan Oxylabs MCP | Mengapa penting bagi Anda |
|---|---|
| Mengelola tembok permintaan otomatis dengan jaringan proxy global Oxylabs | Memungkinkan akses situs web dan anonimitas |
| Merender JavaScript di Chrome headless | Aplikasi satu halaman, beres |
| Membersihkan HTML → Markdown | Masukkan langsung ke basis data vektor atau prompt |
| Parser terstruktur opsional (Google, Amazon, dll.) | Akses satu baris ke target populer |
🛡️ Lisensi
Didistribusikan di bawah Lisensi MIT – lihat LICENSE untuk detailnya.
Tentang Oxylabs
Didirikan pada tahun 2015, Oxylabs adalah platform pengumpulan intelijen web terkemuka di pasar, didorong oleh standar bisnis, etika, dan kepatuhan tertinggi, yang memberdayakan perusahaan di seluruh dunia untuk membuka wawasan berbasis data.
mcp-name: io.oxylabs/oxylabs-mcp
