Oxylabs
offiziellWebsites mit der Oxylabs Web API scrapen, die dynamisches Rendering und Parsing für strukturierte Datenextraktion unterstützt.
Was kann man mit Oxylabs MCP machen?
Bitten Sie Ihren KI-Assistenten, strukturierte Webdaten mit den Scraping- und KI-Tools von Oxylabs zu scrapen, zu durchsuchen und zu extrahieren.
- Beliebige URL scrapen – Verwenden Sie
universal_scraper, um eine Seite mit optionalem JavaScript-Rendering und Geo-Targeting abzurufen und Markdown, HTML oder Links zurückzugeben. - Google-Ergebnisse extrahieren – Bitten Sie
google_search_scraper, Suchergebnisse abzurufen und in strukturiertes JSON zu parsen. - KI-gestützte Extraktion – Verwenden Sie
ai_scraper, um Inhalte von beliebigen URLs in JSON, CSV, Markdown oder das TOON-Format zu extrahieren. - Eine Website crawlen – Bitten Sie
ai_crawler, basierend auf einer Eingabeaufforderung von einer Start-URL aus zu crawlen und Daten über mehrere Seiten hinweg zu sammeln. - Einen Browser steuern – Verwenden Sie
ai_browser_agent, um basierend auf einer Eingabeaufforderung in einem echten Browser zu navigieren, zu klicken und Formulare auszufüllen.
Dokumentation
Oxylabs MCP Server
Das fehlende Bindeglied zwischen KI-Modellen und dem realen Web: eine API, die saubere, strukturierte Daten von jeder Website liefert.
📖 Überblick
Der Oxylabs MCP-Server stellt eine Brücke zwischen KI-Modellen und dem Web her. Er ermöglicht es ihnen, beliebige URLs zu scrapen, JavaScript-lastige Seiten zu rendern, Inhalte für die KI-Nutzung zu extrahieren und zu formatieren, CAPTCHAs zu verwalten und auf geografisch eingeschränkte Webdaten aus über 195 Ländern zuzugreifen.
Er basiert auf dem Model Context Protocol (MCP), dem offenen Standard für die Verbindung von KI-Assistenten mit externen Tools und Daten.
🛠️ MCP-Tools
Oxylabs MCP bietet zwei Gruppen von Tools, die zusammen oder unabhängig voneinander verwendet werden können:
Oxylabs Web Scraper API Tools
- universal_scraper: scrapet beliebige URLs, mit optionalem JavaScript-Rendering, Geo-Targeting und Markdown/HTML/Links-Ausgabe;
- google_search_scraper: extrahiert Ergebnisse aus der Google-Suche, optional mit Parsing in strukturiertes JSON;
- amazon_search_scraper: scrapet Amazon-Suchergebnisseiten, optional mit Parsing in strukturiertes JSON;
- amazon_product_scraper: extrahiert Daten von einzelnen Amazon-Produktseiten.
Oxylabs AI Studio Tools
- ai_scraper: scrapet Inhalte von beliebigen URLs mit KI-gestützter Extraktion, im JSON-, CSV-, Markdown- oder TOON-Format;
- ai_crawler: durchsucht eine Website von einer Start-URL basierend auf einem Prompt und sammelt Daten über mehrere Seiten;
- ai_browser_agent: steuert einen echten Browser basierend auf einem Prompt – navigiert, klickt, füllt Formulare aus – und liefert das Ergebnis zurück;
- ai_search: durchsucht das Web und liefert optional Markdown-Inhalte jedes Ergebnisses;
- ai_map: kartiert die URLs einer Website, gefiltert nach Schlüsselwörtern oder einem Prompt;
- generate_schema: generiert ein OpenAPI-konformes JSON-Schema für die strukturierte Extraktion mit den oben genannten KI-Tools.
✅ Voraussetzungen
Bevor Sie beginnen, stellen Sie sicher, dass Sie mindestens eines der Folgenden besitzen:
- Oxylabs Web Scraper API-Konto: Erhalten Sie Ihren Benutzernamen und Ihr Passwort von Oxylabs (kostenlose 1-Wochen-Testversion verfügbar);
- Oxylabs AI Studio API-Schlüssel: Erhalten Sie Ihren API-Schlüssel von Oxylabs AI Studio (1000 Credits kostenlos).
Sie benötigen außerdem den uv-Paketmanager, um den Server auszuführen:
# macOS and Linux
curl -LsSf https://astral.sh/uv/install.sh | sh
# Windows
powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex"
📦 Konfiguration
Umgebungsvariablen
Der Oxylabs MCP-Server unterstützt die folgenden Umgebungsvariablen:
| Name | Beschreibung | Standard |
|---|---|---|
OXYLABS_USERNAME | Ihr Oxylabs Web Scraper API-Benutzername | |
OXYLABS_PASSWORD | Ihr Oxylabs Web Scraper API-Passwort | |
OXYLABS_AI_STUDIO_API_KEY | Ihr Oxylabs AI Studio API-Schlüssel | |
LOG_LEVEL | Protokollierungsstufe für die an den Client zurückgegebenen Logs | INFO |
Basierend auf den bereitgestellten Anmeldedaten setzt der Server automatisch die entsprechenden Tools frei:
- Wenn nur
OXYLABS_USERNAMEundOXYLABS_PASSWORDbereitgestellt werden, setzt der Server die Web Scraper API-Tools frei; - Wenn nur
OXYLABS_AI_STUDIO_API_KEYbereitgestellt wird, setzt der Server die AI Studio-Tools frei; - Wenn alle drei bereitgestellt werden, setzt der Server alle Tools frei.
❗ Wichtig: Setzen Sie nur die Umgebungsvariablen, für die Sie echte Anmeldedaten haben. Platzhalterwerte führen dazu, dass freigeschaltete Tools nicht funktionieren.
Konfiguration mit uvx
Installiert das Paket von PyPI und führt es automatisch aus:
{
"mcpServers": {
"oxylabs": {
"command": "uvx",
"args": ["oxylabs-mcp"],
"env": {
"OXYLABS_USERNAME": "YOUR_USERNAME",
"OXYLABS_PASSWORD": "YOUR_PASSWORD",
"OXYLABS_AI_STUDIO_API_KEY": "YOUR_API_KEY"
}
}
}
}
Konfiguration mit einem lokalen Checkout
Nützlich für die Entwicklung – führt den Server aus einem lokalen Klon dieses Repositorys aus:
{
"mcpServers": {
"oxylabs": {
"command": "uv",
"args": [
"--directory",
"/<absolute-path-to-folder>/oxylabs-mcp",
"run",
"oxylabs-mcp"
],
"env": {
"OXYLABS_USERNAME": "YOUR_USERNAME",
"OXYLABS_PASSWORD": "YOUR_PASSWORD",
"OXYLABS_AI_STUDIO_API_KEY": "YOUR_API_KEY"
}
}
}
}
Als Remote-HTTP-Server ausführen (Self-Hosting)
Der Server unterstützt auch den MCP-Streamable-HTTP-Transport. Starten Sie ihn mit:
MCP_TRANSPORT=streamable-http MCP_HOST=0.0.0.0 MCP_PORT=8000 uvx oxylabs-mcp
Beim HTTP-Transport werden die Anmeldedaten pro Anfrage statt über Umgebungsvariablen übergeben:
| Anmeldedaten | So übergeben Sie sie |
|---|---|
| Web Scraper API | Authorization: Basic <base64(username:password)> (Standard-HTTP-Basic-Auth) |
| Web Scraper API (alternativ) | X-Oxylabs-Username und X-Oxylabs-Password-Header |
| AI Studio | X-Oxylabs-AI-Studio-Api-Key-Header |
Beispielkonfiguration für den Client:
{
"mcpServers": {
"oxylabs": {
"url": "https://your-host:8000/mcp",
"headers": {
"Authorization": "Basic <base64 of username:password>",
"X-Oxylabs-AI-Studio-Api-Key": "YOUR_API_KEY"
}
}
}
}
Alle Tools werden unabhängig von den bereitgestellten Anmeldedaten immer aufgelistet; der Aufruf eines Tools ohne die benötigten Anmeldedaten gibt eine Fehlermeldung zurück, die genau erklärt, was zu konfigurieren ist.
Einrichtung mit Claude Desktop
Navigieren Sie zu Claude → Einstellungen → Entwickler → Konfiguration bearbeiten und fügen Sie eine der obigen Konfigurationen zur claude_desktop_config.json-Datei hinzu.
Einrichtung mit Cursor AI
Navigieren Sie zu Cursor → Einstellungen → Cursor-Einstellungen → MCP. Klicken Sie auf Neuen globalen MCP-Server hinzufügen und fügen Sie eine der obigen Konfigurationen hinzu.
📝 Protokollierung
Der Server stellt zusätzliche Informationen über die Tool-Aufrufe in notification/message-Ereignissen bereit:
{
"method": "notifications/message",
"params": {
"level": "info",
"data": "Create job with params: {\"url\": \"https://ip.oxylabs.io\"}"
}
}
{
"method": "notifications/message",
"params": {
"level": "info",
"data": "Job info: job_id=7333113830223918081 job_status=done"
}
}
{
"method": "notifications/message",
"params": {
"level": "error",
"data": "Error: request to Oxylabs API failed"
}
}
✨ Hauptfunktionen
Inhalte von jeder Website scrapen
- Daten von beliebigen URLs extrahieren, einschließlich komplexer Single-Page-Anwendungen
- Dynamische Websites mit Headless-Browser-Support vollständig rendern
- Vollständiges JavaScript-Rendering, nur HTML oder gar keins wählen
- Mobile- und Desktop-Viewports für realistisches Rendering emulieren
Automatisch KI-fertige Daten erhalten
- HTML automatisch bereinigen und in Markdown für bessere Lesbarkeit konvertieren
- Automatisierte Parser für beliebte Ziele wie Google, Amazon und mehr verwenden
CAPTCHA- und Geo-Beschränkungen verwalten
- Mit hoher Erfolgsquote durch ausgeklügelte automatisierte Anfrageverwaltung navigieren
- Auch die komplexesten Websites zuverlässig scrapen
- Automatisch rotierende IPs aus einem Proxy-Pool mit über 195 Ländern erhalten
Flexible Einrichtung & plattformübergreifende Unterstützung
- Rendering- und Parsing-Optionen bei Bedarf festlegen
- Daten direkt in KI-Modelle oder Analyse-Tools einspeisen
- Funktioniert unter macOS, Windows und Linux
Integrierte Fehlerbehandlung und Anfrageverwaltung
- Umfassende Fehlerbehandlung und -berichterstattung
- Intelligente Ratenbegrenzung und Anfrageverwaltung
Warum Oxylabs MCP? 🕸️ ➜ 📦 ➜ 🤖
Stellen Sie sich vor, Sie sagen Ihrem LLM "Fasse die neueste Hacker-News-Diskussion über GPT‑5 zusammen" – und es antwortet einfach. Der Oxylabs MCP-Server macht das möglich, indem er die langweiligen Teile für Sie erledigt:
| Was Oxylabs MCP tut | Warum es für Sie wichtig ist |
|---|---|
| Verwaltet automatisierte Anfragewände mit dem globalen Oxylabs-Proxy-Netzwerk | Ermöglicht Website-Zugriff und Anonymität |
| Rendert JavaScript in Headless-Chrome | Single-Page-Apps, erledigt |
| Bereinigt HTML → Markdown | Direkt in Vektor-Datenbanken oder Prompts einspeisen |
| Optionale strukturierte Parser (Google, Amazon usw.) | Einzeiliger Zugriff auf beliebte Ziele |
🛡️ Lizenz
Verteilt unter der MIT-Lizenz – siehe LICENSE für Details.
Über Oxylabs
Seit 2015 ist Oxylabs eine marktführende Plattform für Web-Intelligence-Sammlung, getrieben von höchsten Geschäfts-, Ethik- und Compliance-Standards, die Unternehmen weltweit dabei unterstützt, datenbasierte Erkenntnisse zu gewinnen.
mcp-name: io.oxylabs/oxylabs-mcp
