ZettaQuant V-SLM

Filtra un lote de oraciones para quedarse solo con las relevantes a un tema antes de que tu modelo de lenguaje las lea, reduciendo el gasto de tokens en contexto ruidoso.

GitHub

Documentación

zettaquant-vslm-mcp

Servidor MCP que expone ZettaQuant V-SLM a cualquier host LLM compatible con MCP.

Añade tres líneas a la configuración de Claude Desktop / Cursor / Zed / Windsurf y tu modelo podrá filtrar contexto ruidoso (transcripciones de llamadas de resultados, artículos de noticias, informes largos, líneas de registro) usando el clasificador de relevancia condicionado por tema de ZettaQuant — típicamente reduciendo el gasto de tokens antes de que el modelo de lenguaje siquiera vea la entrada.

Qué expone

Una herramienta, sobre stdio, mediante el Model Context Protocol:

Herramienta	Propósito
`vslm_predict(sentences, query)`	Filtrar `sentences` solo a aquellos relevantes para `query`. Devuelve `relevant_sentences` más estadísticas. Usa el V-SLM de dominio amplio `general_context_agent` internamente.

El LLM decide cuándo llamarla por sí mismo — sin código que tengas que escribir en el host.

Instalación y configuración

Necesitas una clave API de ZettaQuant con el alcance vslm. Obtén una en zettaquant.ai (o pregunta a tu contacto de cuenta).

Claude Desktop

Edita ~/Library/Application Support/Claude/claude_desktop_config.json (macOS) o %APPDATA%\Claude\claude_desktop_config.json (Windows):

{
  "mcpServers": {
    "zettaquant-vslm": {
      "command": "uvx",
      "args": ["zettaquant-vslm-mcp"],
      "env": {
        "ZQ_API_KEY": "<your api key>"
      }
    }
  }
}

Reinicia Claude Desktop. Las herramientas aparecen en el menú "Tools".

Cursor

Edita ~/.cursor/mcp.json:

{
  "mcpServers": {
    "zettaquant-vslm": {
      "command": "uvx",
      "args": ["zettaquant-vslm-mcp"],
      "env": { "ZQ_API_KEY": "<your api key>" }
    }
  }
}

Reinicia Cursor.

Zed

En ~/.config/zed/settings.json:

{
  "context_servers": {
    "zettaquant-vslm": {
      "command": {
        "path": "uvx",
        "args": ["zettaquant-vslm-mcp"],
        "env": { "ZQ_API_KEY": "<your api key>" }
      }
    }
  }
}

Windsurf / otros hosts MCP

Cualquier host que soporte la forma estándar de configuración mcpServers funciona — usa el mismo bloque de command + args + env como arriba.

Variables de entorno

Variable	Requerida	Predeterminado	Notas
`ZQ_API_KEY`	Sí	—	Tu clave API de ZettaQuant. Debe tener el alcance `vslm`.
`ZQ_BASE_URL`		`https://api.zettaquant.ai`	Anulación para staging o una puerta de enlace privada.

Ejemplos de uso en el LLM

Una vez instalado, solo pregunta de forma natural. Algunos prompts que activarán vslm_predict:

"Aquí hay 40 frases de la llamada de resultados del tercer trimestre de Apple. Extrae las que hablen sobre planes de gasto en IA."
"Filtra estas líneas de registro a cualquier cosa relacionada con movimiento lateral."
"Pegué una sección de riesgos de un 10-K. Solo muéstrame frases sobre exposición a la cadena de suministro."

El modelo llama a vslm_predict internamente, recibe las frases relevantes y trabaja a partir de ellas — más barato y preciso que leer la entrada completa.

Desarrollo

uv venv
uv pip install -e .
export ZQ_API_KEY="..."
python -m zettaquant_vslm_mcp

El servidor habla JSON-RPC en stdin/stdout. Para probarlo manualmente, usa el MCP Inspector:

npx @modelcontextprotocol/inspector uvx zettaquant-vslm-mcp

Solución de problemas

"ZQ_API_KEY is not set" en los registros del host → el bloque env en tu configuración MCP no se propagó. Confirma la ruta del archivo de configuración y reinicia el host.
401 en la salida de la herramienta → la clave es válida pero incorrecta. Pruébala directamente: curl -H "x-api-key: $ZQ_API_KEY" https://api.zettaquant.ai/v1/usage/me.
ZettaQuant access denied (403) → tu clave no tiene el alcance vslm. Contacta con ZettaQuant.
ZettaQuant quota exceeded (429) → alcanzaste tu límite por período; el mensaje de error incluye el tiempo de reinicio.

Licencia

MIT.