MCP Test Utils

Automação de interface de desktop para agentes de IA: capturas de tela, gerenciamento de janelas, mouse, teclado, árvore de Automação de Interface, OCR

Documentação

MCP Test Utils

version: 3.25.1 tools: 21

Servidor MCP para testes automatizados de UI desktop. Um único binário — sem runtime, sem dependências, sem instalação.

Apenas Windows x64. Suporte para macOS e Linux está planejado.

Dá olhos e mãos aos agentes de IA: capturas de tela, gerenciamento de janelas, mouse, teclado, UI Automation, OCR, busca de arquivos.

Por quê

Agentes de IA podem acionar ações em aplicativos, mas não conseguem ver a tela. Este servidor preenche essa lacuna:

Agent triggers action → takes screenshot → sees the result →
switches window → clicks a button → verifies → writes report

Totalmente autônomo, sem necessidade de envolvimento do usuário.

Demonstração

3.25.1 — um formulário do VS Code preenchido, enviado e verificado em alguns minutos. Assista no YouTube →

MCP Test Utils 3.25.1 — VS Code demo

3.10.1 — configuração, definições e as ferramentas básicas: 10 tarefas em uma única tomada. Assista no YouTube →

MCP Test Utils vs Anthropic Computer Use

O Claude Cowork agora inclui Computer Use integrado — o Claude tira capturas de tela e clica nas interfaces visualmente. Funciona sem configuração. O MCP Test Utils adota uma abordagem diferente: em vez de adivinhar onde clicar a partir de uma captura de tela, ele lê a estrutura real da UI por meio das APIs do Windows.

MCP Test UtilsComputer Use
Precisão do cliqueExata — API de UI AutomationEstimativa visual a partir da captura de tela
Velocidade e custo de tokensRápido, baixo custo — respostas em textoMais lento, caro — imagem em cada etapa
Estrutura da UIÁrvore completa: funções, estados, coordenadasNão disponível
OCRCoordenadas em nível de palavra, multilíngueNão disponível (apenas visão do modelo)
Gerenciamento de janelasBaseado em API, coordenadas relativas à janelaNavegação visual
Busca de arquivosMecanismo Ripgrep integradoNão disponível
Registro de sessãoJSONL + capturas de tela, log ao vivo na bandejaNão disponível
Cliques verificadosPor id do elemento, recusado se cobertoEstimativa visual
Espera e agrupamentowait_for, batch com assertNão disponível
Análise visual✅ Mesmo modelo Claude, resolução total 1:1✅ Mesmo modelo Claude
ConfiguraçãoBaixar binário, adicionar à configuraçãoIntegrado, um único interruptor
Mobile / Dispatch—✅ Tarefas pelo celular
MultiplataformaWindows (macOS/Linux planejado)macOS + Windows

O MCP Test Utils é mais rápido, mais preciso e mais barato por ação. O Computer Use é mais fácil de iniciar e funciona em várias plataformas. Eles se complementam.

Plataformas

PlataformaStatus
Windows x64✅ Suporte completo
macOS arm64⏳ Planejado
Linux x64⏳ Planejado

Ferramentas (21)

Visão

FerramentaDescrição
take_screenshotCaptura de tela do desktop inteiro com qualidade configurável
take_window_screenshotCaptura de tela de uma janela específica (modo de captura de tela ou de janela)
read_screen_textOCR da tela inteira (Windows.Media.Ocr)
read_region_textOCR de uma região da tela com coordenadas precisas de palavras

Gerenciamento de Janelas

FerramentaDescrição
list_windowsLista janelas com id, título, aplicativo, posição, tamanho, minimizada, focada
focus_windowTraz uma janela para a frente, restaura se minimizada

Entrada

FerramentaDescrição
mouse_clickClique (esquerdo / direito / do meio) em um elemento de UI por id, ou em coordenadas relativas à tela / janela
mouse_moveMove o cursor para um ponto ou para um elemento de UI
mouse_dragArrasta do ponto A ao ponto B
mouse_scrollRola a roda do mouse
keyboard_typeDigita texto (Unicode completo — latino, cirílico, CJK, emoji)
keyboard_pressPressiona uma tecla (Enter, Tab, F1–F12, setas, etc.)
keyboard_shortcutCombinações de teclas (Ctrl+S, Alt+F4, Ctrl+Shift+P, etc.)

Acesso Estruturado à UI

FerramentaDescrição
list_ui_elementsÁrvore de UI Automation — botões, campos, menus com ids, valores, estados e coordenadas exatas; filtra por nome, valor, classe

Espera e Agrupamento

FerramentaDescrição
wait_forAguarda uma janela, um elemento ou seu estado em vez de dormir
batchExecuta até 20 chamadas de ferramenta em uma única solicitação, com etapas de find e assert

Busca de Arquivos

FerramentaDescrição
search_in_filesBusca texto ou regex em arquivos dentro de diretórios permitidos (como Localizar em Arquivos do VS Code)
find_filesEncontra arquivos e diretórios por padrão de nome (glob), como "Ir para Arquivo"

Guia do Agente

FerramentaDescrição
get_usage_guideGuia de fluxo de trabalho compacto para agentes LLM — cliques de precisão, metadados de coordenadas, dicas de qualidade

Registro de Sessão

FerramentaDescrição
enable_loggingInicia a gravação de chamadas de ferramenta em JSONL + capturas de tela (opt-in)
disable_loggingPara a gravação, obtém estatísticas da sessão

Instalação

  1. Baixe o binário em Releases.
  2. Adicione-o à configuração do seu cliente MCP. O exemplo abaixo é para o Claude Desktop — para outros clientes, consulte a documentação deles.

Claude Desktop: %APPDATA%\Claude\claude_desktop_config.json

{
  "mcpServers": {
    "test-utils": {
      "command": "D:\\path\\to\\mcp-test-utils.exe"
    }
  }
}
  1. Reinicie o Claude Desktop.
  2. No chat, tente: "Tire uma captura de tela" — o agente retornará uma imagem do seu desktop.

Com Registro e Busca de Arquivos (opcional)

{
  "mcpServers": {
    "test-utils": {
      "command": "D:\\path\\to\\mcp-test-utils.exe",
      "env": {
        "MCP_LOG_DIR": "D:\\path\\to\\logs",
        "MCP_LOG_MAX_MB": "500",
        "MCP_LOG_RETAIN_DAYS": "30",
        "MCP_SEARCH_DIRS": "D:\\Projects\\app1;D:\\Projects\\app2"
      }
    }
  }
}

Predefinições de Qualidade

As capturas de tela suportam qualidade configurável para equilibrar detalhes e custo de tokens:

PredefiniçãoEscalaFormatoCaso de Uso
full100%JPEG q90Detalhe máximo
standard50%JPEG q70Equilibrado (padrão)
compact50%PNGQuando PNG é necessário
minimal25%Escala de cinzaMenor custo de tokens
custom10–100%JPEG / PNG / Escala de cinzaControle total

Variáveis de Ambiente

VariávelDescriçãoPadrão
MCP_LOG_DIRCaminho para sessões de log. Sem ele, as ferramentas de registro ficam ocultas—
MCP_LOG_MAX_MBLimite de tamanho da sessão (aviso ao exceder)500
MCP_LOG_RETAIN_DAYSExclusão automática de sessões mais antigas que N dias. 0 para desativar30
MCP_SEARCH_DIRSDiretórios permitidos para search_in_files (; no Windows, : no macOS/Linux). Sem ele, a ferramenta fica oculta—
MCP_NOTIFYoff oculta o ícone da bandeja e a janela de log de chamadas ao vivo—

Log na Bandeja

O servidor mostra um ícone na bandeja com um log ao vivo das chamadas de ferramenta — uma aba por sessão, erros em vermelho. MCP_NOTIFY=off o oculta; a posição da janela é mantida em %LOCALAPPDATA%\mcp-test-utils\notify.json.

Como Funciona

O MCP Test Utils é um servidor JSON-RPC 2.0 que se comunica via stdin/stdout. Qualquer cliente compatível com MCP inicia o binário, envia chamadas de ferramenta e recebe respostas estruturadas (texto, imagens base64). Testado com o Claude Desktop.

O servidor usa APIs nativas do Windows diretamente — Win32 GDI para capturas de tela, SendInput para mouse e teclado, API COM de UI Automation para inspeção de elementos, WinRT Windows.Media.Ocr para reconhecimento de texto. A busca de arquivos usa o mecanismo ripgrep (grep-regex, grep-searcher, ignore) — multiplataforma, sem dependências externas. Sem PowerShell, sem ferramentas externas, sem acesso à rede.

Casos de Uso

  • QA automatizado — o agente navega pelo aplicativo, clica nos fluxos, tira capturas de tela em cada etapa, escreve um relatório de teste
  • Automação de desktop — preencher formulários, copiar dados entre janelas, executar fluxos de trabalho
  • Auditoria de acessibilidade — verificar a árvore de UI Automation em busca de rótulos ou funções ausentes
  • Regressão visual — comparação de capturas de tela entre versões
  • Extração de dados — OCR de texto de aplicativos que não expõem APIs
  • Busca de código — encontrar padrões em vários projetos sem sair da sessão do agente

Segurança

  • Responde apenas a solicitações do cliente MCP
  • Não abre portas de rede
  • Não grava nada no disco, exceto registro opt-in e as configurações da janela da bandeja (%LOCALAPPDATA%\mcp-test-utils\notify.json)
  • Não envia dados externamente
  • As capturas de tela capturam a tela inteira — certifique-se de que nenhuma informação sensível esteja visível
  • A busca de arquivos é isolada — apenas diretórios em MCP_SEARCH_DIRS são acessíveis

Apoie-nos

Gratuito e sem restrições. Se você achar útil — jeenyjai.github.io

Licença

Copyright 2026 JeenyJAI. Todos os direitos reservados.


🚀 Criado com Claude