Oxylabs

offiziell

Websites mit der Oxylabs Web API scrapen, die dynamisches Rendering und Parsing für strukturierte Datenextraktion unterstützt.

Was kann man mit Oxylabs MCP machen?

Bitten Sie Ihren KI-Assistenten, strukturierte Webdaten mit den Scraping- und KI-Tools von Oxylabs zu scrapen, zu durchsuchen und zu extrahieren.

  • Beliebige URL scrapen – Verwenden Sie universal_scraper, um eine Seite mit optionalem JavaScript-Rendering und Geo-Targeting abzurufen und Markdown, HTML oder Links zurückzugeben.
  • Google-Ergebnisse extrahieren – Bitten Sie google_search_scraper, Suchergebnisse abzurufen und in strukturiertes JSON zu parsen.
  • KI-gestützte Extraktion – Verwenden Sie ai_scraper, um Inhalte von beliebigen URLs in JSON, CSV, Markdown oder das TOON-Format zu extrahieren.
  • Eine Website crawlen – Bitten Sie ai_crawler, basierend auf einer Eingabeaufforderung von einer Start-URL aus zu crawlen und Daten über mehrere Seiten hinweg zu sammeln.
  • Einen Browser steuern – Verwenden Sie ai_browser_agent, um basierend auf einer Eingabeaufforderung in einem echten Browser zu navigieren, zu klicken und Formulare auszufüllen.

Dokumentation

Oxylabs + MCP

Oxylabs MCP Server

Das fehlende Bindeglied zwischen KI-Modellen und dem realen Web: eine API, die saubere, strukturierte Daten von jeder Website liefert.


📖 Überblick

Der Oxylabs MCP-Server stellt eine Brücke zwischen KI-Modellen und dem Web her. Er ermöglicht es ihnen, beliebige URLs zu scrapen, JavaScript-lastige Seiten zu rendern, Inhalte für die KI-Nutzung zu extrahieren und zu formatieren, CAPTCHAs zu verwalten und auf geografisch eingeschränkte Webdaten aus über 195 Ländern zuzugreifen.

Er basiert auf dem Model Context Protocol (MCP), dem offenen Standard für die Verbindung von KI-Assistenten mit externen Tools und Daten.

🛠️ MCP-Tools

Oxylabs MCP bietet zwei Gruppen von Tools, die zusammen oder unabhängig voneinander verwendet werden können:

Oxylabs Web Scraper API Tools

  1. universal_scraper: scrapet beliebige URLs, mit optionalem JavaScript-Rendering, Geo-Targeting und Markdown/HTML/Links-Ausgabe;
  2. google_search_scraper: extrahiert Ergebnisse aus der Google-Suche, optional mit Parsing in strukturiertes JSON;
  3. amazon_search_scraper: scrapet Amazon-Suchergebnisseiten, optional mit Parsing in strukturiertes JSON;
  4. amazon_product_scraper: extrahiert Daten von einzelnen Amazon-Produktseiten.

Oxylabs AI Studio Tools

  1. ai_scraper: scrapet Inhalte von beliebigen URLs mit KI-gestützter Extraktion, im JSON-, CSV-, Markdown- oder TOON-Format;
  2. ai_crawler: durchsucht eine Website von einer Start-URL basierend auf einem Prompt und sammelt Daten über mehrere Seiten;
  3. ai_browser_agent: steuert einen echten Browser basierend auf einem Prompt – navigiert, klickt, füllt Formulare aus – und liefert das Ergebnis zurück;
  4. ai_search: durchsucht das Web und liefert optional Markdown-Inhalte jedes Ergebnisses;
  5. ai_map: kartiert die URLs einer Website, gefiltert nach Schlüsselwörtern oder einem Prompt;
  6. generate_schema: generiert ein OpenAPI-konformes JSON-Schema für die strukturierte Extraktion mit den oben genannten KI-Tools.

✅ Voraussetzungen

Bevor Sie beginnen, stellen Sie sicher, dass Sie mindestens eines der Folgenden besitzen:

  • Oxylabs Web Scraper API-Konto: Erhalten Sie Ihren Benutzernamen und Ihr Passwort von Oxylabs (kostenlose 1-Wochen-Testversion verfügbar);
  • Oxylabs AI Studio API-Schlüssel: Erhalten Sie Ihren API-Schlüssel von Oxylabs AI Studio (1000 Credits kostenlos).

Sie benötigen außerdem den uv-Paketmanager, um den Server auszuführen:

# macOS and Linux
curl -LsSf https://astral.sh/uv/install.sh | sh
# Windows
powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex"

📦 Konfiguration

Umgebungsvariablen

Der Oxylabs MCP-Server unterstützt die folgenden Umgebungsvariablen:

NameBeschreibungStandard
OXYLABS_USERNAMEIhr Oxylabs Web Scraper API-Benutzername
OXYLABS_PASSWORDIhr Oxylabs Web Scraper API-Passwort
OXYLABS_AI_STUDIO_API_KEYIhr Oxylabs AI Studio API-Schlüssel
LOG_LEVELProtokollierungsstufe für die an den Client zurückgegebenen LogsINFO

Basierend auf den bereitgestellten Anmeldedaten setzt der Server automatisch die entsprechenden Tools frei:

  • Wenn nur OXYLABS_USERNAME und OXYLABS_PASSWORD bereitgestellt werden, setzt der Server die Web Scraper API-Tools frei;
  • Wenn nur OXYLABS_AI_STUDIO_API_KEY bereitgestellt wird, setzt der Server die AI Studio-Tools frei;
  • Wenn alle drei bereitgestellt werden, setzt der Server alle Tools frei.

Wichtig: Setzen Sie nur die Umgebungsvariablen, für die Sie echte Anmeldedaten haben. Platzhalterwerte führen dazu, dass freigeschaltete Tools nicht funktionieren.

Konfiguration mit uvx

Installiert das Paket von PyPI und führt es automatisch aus:

{
  "mcpServers": {
    "oxylabs": {
      "command": "uvx",
      "args": ["oxylabs-mcp"],
      "env": {
        "OXYLABS_USERNAME": "YOUR_USERNAME",
        "OXYLABS_PASSWORD": "YOUR_PASSWORD",
        "OXYLABS_AI_STUDIO_API_KEY": "YOUR_API_KEY"
      }
    }
  }
}

Konfiguration mit einem lokalen Checkout

Nützlich für die Entwicklung – führt den Server aus einem lokalen Klon dieses Repositorys aus:

{
  "mcpServers": {
    "oxylabs": {
      "command": "uv",
      "args": [
        "--directory",
        "/<absolute-path-to-folder>/oxylabs-mcp",
        "run",
        "oxylabs-mcp"
      ],
      "env": {
        "OXYLABS_USERNAME": "YOUR_USERNAME",
        "OXYLABS_PASSWORD": "YOUR_PASSWORD",
        "OXYLABS_AI_STUDIO_API_KEY": "YOUR_API_KEY"
      }
    }
  }
}

Als Remote-HTTP-Server ausführen (Self-Hosting)

Der Server unterstützt auch den MCP-Streamable-HTTP-Transport. Starten Sie ihn mit:

MCP_TRANSPORT=streamable-http MCP_HOST=0.0.0.0 MCP_PORT=8000 uvx oxylabs-mcp

Beim HTTP-Transport werden die Anmeldedaten pro Anfrage statt über Umgebungsvariablen übergeben:

AnmeldedatenSo übergeben Sie sie
Web Scraper APIAuthorization: Basic <base64(username:password)> (Standard-HTTP-Basic-Auth)
Web Scraper API (alternativ)X-Oxylabs-Username und X-Oxylabs-Password-Header
AI StudioX-Oxylabs-AI-Studio-Api-Key-Header

Beispielkonfiguration für den Client:

{
  "mcpServers": {
    "oxylabs": {
      "url": "https://your-host:8000/mcp",
      "headers": {
        "Authorization": "Basic <base64 of username:password>",
        "X-Oxylabs-AI-Studio-Api-Key": "YOUR_API_KEY"
      }
    }
  }
}

Alle Tools werden unabhängig von den bereitgestellten Anmeldedaten immer aufgelistet; der Aufruf eines Tools ohne die benötigten Anmeldedaten gibt eine Fehlermeldung zurück, die genau erklärt, was zu konfigurieren ist.

Einrichtung mit Claude Desktop

Navigieren Sie zu Claude → Einstellungen → Entwickler → Konfiguration bearbeiten und fügen Sie eine der obigen Konfigurationen zur claude_desktop_config.json-Datei hinzu.

Einrichtung mit Cursor AI

Navigieren Sie zu Cursor → Einstellungen → Cursor-Einstellungen → MCP. Klicken Sie auf Neuen globalen MCP-Server hinzufügen und fügen Sie eine der obigen Konfigurationen hinzu.

📝 Protokollierung

Der Server stellt zusätzliche Informationen über die Tool-Aufrufe in notification/message-Ereignissen bereit:

{
  "method": "notifications/message",
  "params": {
    "level": "info",
    "data": "Create job with params: {\"url\": \"https://ip.oxylabs.io\"}"
  }
}
{
  "method": "notifications/message",
  "params": {
    "level": "info",
    "data": "Job info: job_id=7333113830223918081 job_status=done"
  }
}
{
  "method": "notifications/message",
  "params": {
    "level": "error",
    "data": "Error: request to Oxylabs API failed"
  }
}

✨ Hauptfunktionen

Inhalte von jeder Website scrapen
  • Daten von beliebigen URLs extrahieren, einschließlich komplexer Single-Page-Anwendungen
  • Dynamische Websites mit Headless-Browser-Support vollständig rendern
  • Vollständiges JavaScript-Rendering, nur HTML oder gar keins wählen
  • Mobile- und Desktop-Viewports für realistisches Rendering emulieren
Automatisch KI-fertige Daten erhalten
  • HTML automatisch bereinigen und in Markdown für bessere Lesbarkeit konvertieren
  • Automatisierte Parser für beliebte Ziele wie Google, Amazon und mehr verwenden
CAPTCHA- und Geo-Beschränkungen verwalten
  • Mit hoher Erfolgsquote durch ausgeklügelte automatisierte Anfrageverwaltung navigieren
  • Auch die komplexesten Websites zuverlässig scrapen
  • Automatisch rotierende IPs aus einem Proxy-Pool mit über 195 Ländern erhalten
Flexible Einrichtung & plattformübergreifende Unterstützung
  • Rendering- und Parsing-Optionen bei Bedarf festlegen
  • Daten direkt in KI-Modelle oder Analyse-Tools einspeisen
  • Funktioniert unter macOS, Windows und Linux
Integrierte Fehlerbehandlung und Anfrageverwaltung
  • Umfassende Fehlerbehandlung und -berichterstattung
  • Intelligente Ratenbegrenzung und Anfrageverwaltung

Warum Oxylabs MCP?  🕸️ ➜ 📦 ➜ 🤖

Stellen Sie sich vor, Sie sagen Ihrem LLM "Fasse die neueste Hacker-News-Diskussion über GPT‑5 zusammen" – und es antwortet einfach. Der Oxylabs MCP-Server macht das möglich, indem er die langweiligen Teile für Sie erledigt:

Was Oxylabs MCP tutWarum es für Sie wichtig ist
Verwaltet automatisierte Anfragewände mit dem globalen Oxylabs-Proxy-NetzwerkErmöglicht Website-Zugriff und Anonymität
Rendert JavaScript in Headless-ChromeSingle-Page-Apps, erledigt
Bereinigt HTML → MarkdownDirekt in Vektor-Datenbanken oder Prompts einspeisen
Optionale strukturierte Parser (Google, Amazon usw.)Einzeiliger Zugriff auf beliebte Ziele

🛡️ Lizenz

Verteilt unter der MIT-Lizenz – siehe LICENSE für Details.


Über Oxylabs

Seit 2015 ist Oxylabs eine marktführende Plattform für Web-Intelligence-Sammlung, getrieben von höchsten Geschäfts-, Ethik- und Compliance-Standards, die Unternehmen weltweit dabei unterstützt, datenbasierte Erkenntnisse zu gewinnen.

image

Gemacht mit ☕ von Oxylabs. Geben Sie uns gerne einen ⭐, wenn MCP Ihnen ein Wochenende erspart hat.

mcp-name: io.oxylabs/oxylabs-mcp