LLM Bridge MCP
Uma interface unificada para vários provedores de LLM como OpenAI, Anthropic e Google usando Pydantic AI.
Documentação
LLM Bridge MCP
O LLM Bridge MCP permite que agentes de IA interajam com múltiplos modelos de linguagem de grande porte por meio de uma interface padronizada. Ele utiliza o Protocolo de Controle de Mensagens (MCP) para fornecer acesso contínuo a diferentes provedores de LLM, facilitando a alternância entre modelos ou o uso de vários modelos no mesmo aplicativo.
Recursos
- Interface unificada para múltiplos provedores de LLM:
- OpenAI (modelos GPT)
- Anthropic (modelos Claude)
- Google (modelos Gemini)
- DeepSeek
- ...
- Construído com Pydantic AI para segurança de tipos e validação
- Suporta parâmetros personalizáveis como temperatura e máximo de tokens
- Fornece rastreamento de uso e métricas
Ferramentas
O servidor implementa a seguinte ferramenta:
run_llm(
prompt: str,
model_name: KnownModelName = "openai:gpt-4o-mini",
temperature: float = 0.7,
max_tokens: int = 8192,
system_prompt: str = "",
) -> LLMResponse
prompt: O prompt de texto a ser enviado ao LLMmodel_name: Modelo específico a ser usado (padrão: "openai:gpt-4o-mini")temperature: Controla a aleatoriedade (0.0 a 1.0)max_tokens: Número máximo de tokens a serem geradossystem_prompt: Prompt de sistema opcional para orientar o comportamento do modelo
Instalação
Instalando via Smithery
Para instalar o llm-bridge-mcp para Claude Desktop automaticamente via Smithery:
npx -y @smithery/cli install @sjquant/llm-bridge-mcp --client claude
Instalação Manual
- Clone o repositório:
git clone https://github.com/yourusername/llm-bridge-mcp.git
cd llm-bridge-mcp
- Instale o uv (se ainda não estiver instalado):
# On macOS
brew install uv
# On Linux
curl -LsSf https://astral.sh/uv/install.sh | sh
# On Windows
powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex"
Configuração
Crie um arquivo .env no diretório raiz com suas chaves de API:
OPENAI_API_KEY=your_openai_api_key
ANTHROPIC_API_KEY=your_anthropic_api_key
GOOGLE_API_KEY=your_google_api_key
DEEPSEEK_API_KEY=your_deepseek_api_key
Uso
Usando com Claude Desktop ou Cursor
Adicione uma entrada de servidor ao arquivo de configuração do Claude Desktop ou ao .cursor/mcp.json:
"mcpServers": {
"llm-bridge": {
"command": "uvx",
"args": [
"llm-bridge-mcp"
],
"env": {
"OPENAI_API_KEY": "your_openai_api_key",
"ANTHROPIC_API_KEY": "your_anthropic_api_key",
"GOOGLE_API_KEY": "your_google_api_key",
"DEEPSEEK_API_KEY": "your_deepseek_api_key"
}
}
}
Solução de Problemas
Problemas Comuns
1. Erro "spawn uvx ENOENT"
Este erro ocorre quando o sistema não consegue encontrar o executável uvx no seu PATH. Para resolver:
Solução: Use o caminho completo para uvx
Encontre o caminho completo para o seu executável uvx:
# On macOS/Linux
which uvx
# On Windows
where.exe uvx
Em seguida, atualize a configuração do seu servidor MCP para usar o caminho completo:
"mcpServers": {
"llm-bridge": {
"command": "/full/path/to/uvx", // Replace with your actual path
"args": [
"llm-bridge-mcp"
],
"env": {
// ... your environment variables
}
}
}
Licença
Este projeto é licenciado sob a Licença MIT - consulte o arquivo LICENSE para obter detalhes.