Ollama MCP Server
Uma ponte para usar LLMs locais do Ollama dentro do Protocolo de Contexto de Modelo.
GitHub
74
Experimente este MCPPatrocinadoDocumentação
Servidor MCP Ollama
🚀 Uma ponte poderosa entre o Ollama e o Model Context Protocol (MCP), permitindo integração perfeita dos recursos de LLM local do Ollama em seus aplicativos habilitados para MCP.
🌟 Recursos
Integração Completa com Ollama
- Cobertura Total da API: Acesse todas as funcionalidades essenciais do Ollama por meio de uma interface MCP limpa
- Chat Compatível com OpenAI: Substituição direta para a API de conclusão de chat da OpenAI
- Poder do LLM Local: Execute modelos de IA localmente com controle total e privacidade
Recursos Principais
-
🔄 Gerenciamento de Modelos
- Baixar modelos de registros
- Enviar modelos para registros
- Listar modelos disponíveis
- Criar modelos personalizados a partir de Modelfiles
- Copiar e remover modelos
-
🤖 Execução de Modelos
- Executar modelos com prompts personalizáveis
- API de conclusão de chat com papéis de sistema/usuário/assistente
- Parâmetros configuráveis (temperatura, tempo limite)
- Suporte ao modo bruto para respostas diretas
-
🛠 Controle do Servidor
- Iniciar e gerenciar o servidor Ollama
- Visualizar informações detalhadas do modelo
- Tratamento de erros e gerenciamento de tempo limite
🚀 Começando
Pré-requisitos
- Ollama instalado no seu sistema
- Node.js e npm/pnpm
Instalação
- Instale as dependências:
pnpm install
- Compile o servidor:
pnpm run build
Configuração
Adicione o servidor à sua configuração MCP:
Para Claude Desktop:
MacOS: ~/Library/Application Support/Claude/claude_desktop_config.json
Windows: %APPDATA%/Claude/claude_desktop_config.json
{
"mcpServers": {
"ollama": {
"command": "node",
"args": ["/path/to/ollama-server/build/index.js"],
"env": {
"OLLAMA_HOST": "http://127.0.0.1:11434" // Optional: customize Ollama API endpoint
}
}
}
}
🛠 Exemplos de Uso
Baixar e Executar um Modelo
// Pull a model
await mcp.use_mcp_tool({
server_name: "ollama",
tool_name: "pull",
arguments: {
name: "llama2"
}
});
// Run the model
await mcp.use_mcp_tool({
server_name: "ollama",
tool_name: "run",
arguments: {
name: "llama2",
prompt: "Explain quantum computing in simple terms"
}
});
Conclusão de Chat (compatível com OpenAI)
await mcp.use_mcp_tool({
server_name: "ollama",
tool_name: "chat_completion",
arguments: {
model: "llama2",
messages: [
{
role: "system",
content: "You are a helpful assistant."
},
{
role: "user",
content: "What is the meaning of life?"
}
],
temperature: 0.7
}
});
Criar Modelo Personalizado
await mcp.use_mcp_tool({
server_name: "ollama",
tool_name: "create",
arguments: {
name: "custom-model",
modelfile: "./path/to/Modelfile"
}
});
🔧 Configuração Avançada
OLLAMA_HOST: Configure o endpoint personalizado da API Ollama (padrão: http://127.0.0.1:11434)- Configurações de tempo limite para execução de modelos (padrão: 60 segundos)
- Controle de temperatura para aleatoriedade das respostas (intervalo de 0 a 2)
🤝 Contribuindo
Contribuições são bem-vindas! Sinta-se à vontade para:
- Relatar bugs
- Sugerir novos recursos
- Enviar pull requests
📝 Licença
Licença MIT - sinta-se à vontade para usar em seus próprios projetos!
Feito com ❤️ para o ecossistema MCP