Ollama MCP Server

Uma ponte para usar LLMs locais do Ollama dentro do Protocolo de Contexto de Modelo.

Documentação

Servidor MCP Ollama

🚀 Uma ponte poderosa entre o Ollama e o Model Context Protocol (MCP), permitindo integração perfeita dos recursos de LLM local do Ollama em seus aplicativos habilitados para MCP.

🌟 Recursos

Integração Completa com Ollama

  • Cobertura Total da API: Acesse todas as funcionalidades essenciais do Ollama por meio de uma interface MCP limpa
  • Chat Compatível com OpenAI: Substituição direta para a API de conclusão de chat da OpenAI
  • Poder do LLM Local: Execute modelos de IA localmente com controle total e privacidade

Recursos Principais

  • 🔄 Gerenciamento de Modelos

    • Baixar modelos de registros
    • Enviar modelos para registros
    • Listar modelos disponíveis
    • Criar modelos personalizados a partir de Modelfiles
    • Copiar e remover modelos
  • 🤖 Execução de Modelos

    • Executar modelos com prompts personalizáveis
    • API de conclusão de chat com papéis de sistema/usuário/assistente
    • Parâmetros configuráveis (temperatura, tempo limite)
    • Suporte ao modo bruto para respostas diretas
  • 🛠 Controle do Servidor

    • Iniciar e gerenciar o servidor Ollama
    • Visualizar informações detalhadas do modelo
    • Tratamento de erros e gerenciamento de tempo limite

🚀 Começando

Pré-requisitos

  • Ollama instalado no seu sistema
  • Node.js e npm/pnpm

Instalação

  1. Instale as dependências:
pnpm install
  1. Compile o servidor:
pnpm run build

Configuração

Adicione o servidor à sua configuração MCP:

Para Claude Desktop:

MacOS: ~/Library/Application Support/Claude/claude_desktop_config.json Windows: %APPDATA%/Claude/claude_desktop_config.json

{
  "mcpServers": {
    "ollama": {
      "command": "node",
      "args": ["/path/to/ollama-server/build/index.js"],
      "env": {
        "OLLAMA_HOST": "http://127.0.0.1:11434"  // Optional: customize Ollama API endpoint
      }
    }
  }
}

🛠 Exemplos de Uso

Baixar e Executar um Modelo

// Pull a model
await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "pull",
  arguments: {
    name: "llama2"
  }
});

// Run the model
await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "run",
  arguments: {
    name: "llama2",
    prompt: "Explain quantum computing in simple terms"
  }
});

Conclusão de Chat (compatível com OpenAI)

await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "chat_completion",
  arguments: {
    model: "llama2",
    messages: [
      {
        role: "system",
        content: "You are a helpful assistant."
      },
      {
        role: "user",
        content: "What is the meaning of life?"
      }
    ],
    temperature: 0.7
  }
});

Criar Modelo Personalizado

await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "create",
  arguments: {
    name: "custom-model",
    modelfile: "./path/to/Modelfile"
  }
});

🔧 Configuração Avançada

  • OLLAMA_HOST: Configure o endpoint personalizado da API Ollama (padrão: http://127.0.0.1:11434)
  • Configurações de tempo limite para execução de modelos (padrão: 60 segundos)
  • Controle de temperatura para aleatoriedade das respostas (intervalo de 0 a 2)

🤝 Contribuindo

Contribuições são bem-vindas! Sinta-se à vontade para:

  • Relatar bugs
  • Sugerir novos recursos
  • Enviar pull requests

📝 Licença

Licença MIT - sinta-se à vontade para usar em seus próprios projetos!


Feito com ❤️ para o ecossistema MCP