LLM Bridge MCP

Uma interface unificada para vários provedores de LLM como OpenAI, Anthropic e Google usando Pydantic AI.

Documentação

LLM Bridge MCP

smithery badge

O LLM Bridge MCP permite que agentes de IA interajam com múltiplos modelos de linguagem de grande porte por meio de uma interface padronizada. Ele utiliza o Protocolo de Controle de Mensagens (MCP) para fornecer acesso contínuo a diferentes provedores de LLM, facilitando a alternância entre modelos ou o uso de vários modelos no mesmo aplicativo.

LLM Bridge MCP server

Recursos

  • Interface unificada para múltiplos provedores de LLM:
    • OpenAI (modelos GPT)
    • Anthropic (modelos Claude)
    • Google (modelos Gemini)
    • DeepSeek
    • ...
  • Construído com Pydantic AI para segurança de tipos e validação
  • Suporta parâmetros personalizáveis como temperatura e máximo de tokens
  • Fornece rastreamento de uso e métricas

Ferramentas

O servidor implementa a seguinte ferramenta:

run_llm(
    prompt: str,
    model_name: KnownModelName = "openai:gpt-4o-mini",
    temperature: float = 0.7,
    max_tokens: int = 8192,
    system_prompt: str = "",
) -> LLMResponse
  • prompt: O prompt de texto a ser enviado ao LLM
  • model_name: Modelo específico a ser usado (padrão: "openai:gpt-4o-mini")
  • temperature: Controla a aleatoriedade (0.0 a 1.0)
  • max_tokens: Número máximo de tokens a serem gerados
  • system_prompt: Prompt de sistema opcional para orientar o comportamento do modelo

Instalação

Instalando via Smithery

Para instalar o llm-bridge-mcp para Claude Desktop automaticamente via Smithery:

npx -y @smithery/cli install @sjquant/llm-bridge-mcp --client claude

Instalação Manual

  1. Clone o repositório:
git clone https://github.com/yourusername/llm-bridge-mcp.git
cd llm-bridge-mcp
  1. Instale o uv (se ainda não estiver instalado):
# On macOS
brew install uv

# On Linux
curl -LsSf https://astral.sh/uv/install.sh | sh

# On Windows
powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex"

Configuração

Crie um arquivo .env no diretório raiz com suas chaves de API:

OPENAI_API_KEY=your_openai_api_key
ANTHROPIC_API_KEY=your_anthropic_api_key
GOOGLE_API_KEY=your_google_api_key
DEEPSEEK_API_KEY=your_deepseek_api_key

Uso

Usando com Claude Desktop ou Cursor

Adicione uma entrada de servidor ao arquivo de configuração do Claude Desktop ou ao .cursor/mcp.json:

"mcpServers": {
  "llm-bridge": {
    "command": "uvx",
    "args": [
      "llm-bridge-mcp"
    ],
    "env": {
      "OPENAI_API_KEY": "your_openai_api_key",
      "ANTHROPIC_API_KEY": "your_anthropic_api_key",
      "GOOGLE_API_KEY": "your_google_api_key",
      "DEEPSEEK_API_KEY": "your_deepseek_api_key"
    }
  }
}

Solução de Problemas

Problemas Comuns

1. Erro "spawn uvx ENOENT"

Este erro ocorre quando o sistema não consegue encontrar o executável uvx no seu PATH. Para resolver:

Solução: Use o caminho completo para uvx

Encontre o caminho completo para o seu executável uvx:

# On macOS/Linux
which uvx

# On Windows
where.exe uvx

Em seguida, atualize a configuração do seu servidor MCP para usar o caminho completo:

"mcpServers": {
  "llm-bridge": {
    "command": "/full/path/to/uvx",  // Replace with your actual path
    "args": [
      "llm-bridge-mcp"
    ],
    "env": {
      // ... your environment variables
    }
  }
}

Licença

Este projeto é licenciado sob a Licença MIT - consulte o arquivo LICENSE para obter detalhes.