conKurrence

Kit de evaluación de IA — mide el acuerdo entre evaluadores (κ de Fleiss, W de Kendall) en múltiples proveedores de LLM

Documentación

ConKurrence

Un comando. Descubre si tu IA está de acuerdo consigo misma.

ConKurrence es un conjunto de herramientas de medición de consenso estadísticamente validado para pipelines de evaluación de IA. Utiliza múltiples modelos de IA como evaluadores independientes, mide la fiabilidad entre evaluadores con el kappa de Fleiss e intervalos de confianza bootstrap, y envía los elementos en disputa a expertos humanos.

Instalación

npm install -g conkurrence

Servidor MCP

Usa ConKurrence como servidor MCP en Claude Desktop o en cualquier cliente compatible con MCP:

npx conkurrence mcp

Configuración de Claude Desktop

Añade a tu claude_desktop_config.json:

{
  "mcpServers": {
    "conkurrence": {
      "command": "npx",
      "args": ["-y", "conkurrence", "mcp"]
    }
  }
}

Plugin de Claude Code

/plugin marketplace add AlligatorC0der/conkurrence

Características

  • Evaluación multi-modelo — Ejecuta tu esquema contra modelos de Bedrock, OpenAI y Gemini simultáneamente
  • Rigor estadístico — Kappa de Fleiss con intervalos de confianza bootstrap, W de Kendall para validez
  • Modo de autoconsistencia — No se necesitan claves API; usa el modelo anfitrión mediante MCP Sampling
  • Sugerencia de esquema — Diseño de esquema impulsado por IA a partir de tus datos
  • Seguimiento de tendencias — Compara ejecuciones a lo largo del tiempo, detecta degradación del acuerdo
  • Estimación de costos — Conoce el costo antes de ejecutar

Herramientas MCP

HerramientaDescripción
conkurrence_runEjecuta una evaluación a través de múltiples evaluadores de IA
conkurrence_reportGenera un informe detallado en markdown
conkurrence_compareComparación lado a lado de dos ejecuciones
conkurrence_trendRealiza seguimiento del acuerdo a lo largo de múltiples ejecuciones
conkurrence_suggestSugerencia de esquema impulsada por IA a partir de tus datos
conkurrence_validate_schemaValida un esquema antes de ejecutar
conkurrence_estimateEstima el costo y el uso de tokens

Enlaces

Licencia

BUSL-1.1 — Business Source License 1.1