coreclaw webscraper

Recuperar dados estruturados através de conversas em linguagem natural

Documentação

O serviço MCP CoreClaw expõe os fluxos de trabalho públicos do CoreClaw OpenAPI v2 por meio do Model Context Protocol (MCP). Após a conexão, o Agente de IA pode descobrir Workers do CoreClaw, visualizar schemas de entrada, executar Workers ou tarefas salvas, consultar status de execução, ler logs e exportar resultados estruturados.

Arquitetura

用户对话 -> AI Agent -> MCP 协议 -> CoreClaw MCP 服务 -> CoreClaw OpenAPI v2
                              HTTP       mcp.coreclaw.com      openapi.coreclaw.com

O endpoint de entrada HTTP Streamable hospedado é:

https://mcp.coreclaw.com/mcp

Priorize o endpoint hospedado. A execução local do coreclaw-mcp-server só é necessária durante desenvolvimento, depuração ou quando o cliente suporta apenas stdio local.

Pré-requisitos

Início rápido

Adicione a seguinte configuração no seu cliente MCP:

{
  "mcpServers": {
    "coreclaw": {
      "url": "https://mcp.coreclaw.com/mcp",
      "headers": {
        "Authorization": "Bearer YOUR_CORECLAW_API_KEY"
      }
    }
  }
}

Após salvar a configuração, reinicie ou recarregue o cliente se solicitado. Depois disso, o Agente de IA poderá chamar as ferramentas CoreClaw na conversa.

Métodos de autenticação

O serviço MCP hospedado usa autenticação Authorization: Bearer <token> — o mesmo cabeçalho do CoreClaw OpenAPI v2. Para compatibilidade com integrações antigas, os cabeçalhos api-key e X-API-Key ainda são aceitos:

  • Authorization: Bearer YOUR_CORECLAW_API_KEY (recomendado)
  • api-key: YOUR_CORECLAW_API_KEY (legado)
  • X-API-Key: YOUR_CORECLAW_API_KEY (legado)

O serviço MCP encaminha as credenciais de autenticação para o CoreClaw OpenAPI v2, e as requisições upstream usam uniformemente Authorization: Bearer <token>.

Não envie chaves de API para sistemas de controle de versão. Quando o cliente suportar armazenamento seguro de credenciais, priorize esse recurso.

Ferramentas disponíveis

O serviço MCP CoreClaw expõe 42 ferramentas — 39 operações do OpenAPI v2 (1:1) mais 3 assistentes de orquestração. As interfaces de criação/atualização de versão de Worker e de detalhes internos do Worker são internas e não são expostas via MCP.

Descoberta e pré-verificação

FerramentaDescriçãoAPI correspondente
list_proxy_regionsConsulta códigos e nomes de regiões de proxyGET /api/v2/proxy/region
list_store_workersPesquisa Workers públicos da StoreGET /api/v2/store
list_workersLista Workers da conta atualGET /api/v2/workers
get_workerObtém metadados, versão, README e parâmetros do WorkerGET /api/v2/workers/{workerId}
get_worker_input_schemaObtém o schema de entrada público do WorkerGET /api/v2/workers/{workerId}/input-schema
get_account_infoConsulta saldo da conta, cota de tráfego e data de expiraçãoGET /api/v2/users/account

Tarefas de Worker (modelos de tarefa salvos)

FerramentaDescriçãoAPI correspondente
list_worker_tasksLista tarefas de Worker salvas na conta atualGET /api/v2/worker-tasks
get_worker_taskObtém detalhes de uma tarefa salvaGET /api/v2/worker-tasks/{workerTaskId}
get_worker_task_inputObtém o payload de entrada de uma tarefa salvaGET /api/v2/worker-tasks/{workerTaskId}/input
create_worker_taskCria tarefa salva (agendamento opcional)POST /api/v2/worker-tasks
update_worker_taskAtualiza metadados/agendamento da tarefaPUT /api/v2/worker-tasks/{workerTaskId}
update_worker_task_inputAtualiza apenas o payload de entrada da tarefaPUT /api/v2/worker-tasks/{workerTaskId}/input
delete_worker_taskExclui tarefa salvaDELETE /api/v2/worker-tasks/{workerTaskId}

Assistentes de orquestração

Três ferramentas de conveniência que combinam várias chamadas de API em uma única chamada de ferramenta.

FerramentaDescriçãoChamadas subjacentes
poll_runFaz polling da execução até o estado final (ou timeout)Repetir GET /api/v2/worker-runs/{runId}
verify_runRetorna veredito estruturado ( PASS / NO_DATA / FAILED / ERROR_RECORD / RUNNING / SUBMIT_FAIL ) — verifica o status da execução e depois inspeciona a primeira linha de resultado, distinguindo dados reais de registros apenas de diagnósticoget_worker_run + list_worker_run_results
run_workers_batchExecuta até 50 Workers em uma única chamada, retornando resumo e veredito por item. Concorrência 1–10, com verify opcional por itemPor item: POST /api/v2/workers/{workerId}/runs + poll_run (+ verify_run opcional)

poll_run aceita timeout_seconds (1–900, padrão 300) e poll_interval_seconds (1–60, padrão 5), e em caso de sucesso pode pré-buscar uma pequena prévia dos resultados ( limit ). Use-o para Workers cujo tempo de execução excede a janela de uma única chamada MCP. verify_run é usado para distinguir sucesso real de falsos positivos como "CAPTCHA/linha 403 preencheu a lista sem payload real" — ele marca o último caso como ERROR_RECORD . get_worker_run_log também suporta grep em processo (separado por pipe, sem diferenciar maiúsculas de minúsculas) além de context_lines e max_matches .

Execução

FerramentaDescriçãoAPI correspondente
run_workerExecuta Worker com entrada JSON temporáriaPOST /api/v2/workers/{workerId}/runs
run_worker_taskExecuta tarefa de Worker salvaPOST /api/v2/worker-tasks/{workerTaskId}/runs

Fila de execução

FerramentaDescriçãoAPI correspondente
queue_worker_runColoca a execução na fila, aguardando ativação explícita em vez de execução imediataPOST /api/v2/workers/{workerId}/queued-runs
list_run_queue_itemsLista execuções enfileiradas aguardando ativaçãoGET /api/v2/run-queue/items
activate_run_queue_itemsAtiva execução enfileirada para execuçãoPOST /api/v2/run-queue/items/activate
release_run_queue_itemsLibera execução enfileirada de volta para a filaPOST /api/v2/run-queue/items/release
release_run_queue_itemLibera uma única execução enfileiradaPOST /api/v2/run-queue/items/{queueId}/release

Consulta de execuções

FerramentaDescriçãoAPI correspondente
list_worker_runsConsulta histórico de execuçõesGET /api/v2/worker-runs
get_last_worker_runConsulta a execução mais recente da conta atualGET /api/v2/worker-runs/last
get_worker_runConsulta execução específica via run_idGET /api/v2/worker-runs/{runId}
get_worker_last_runConsulta a execução mais recente de um Worker específicoGET /api/v2/workers/{workerId}/runs/last

Resultados, exportação e logs

FerramentaDescriçãoAPI correspondente
list_last_worker_run_resultsVisualiza o resultado da execução mais recente da conta atualGET /api/v2/worker-runs/last/result
export_last_worker_run_resultsExporta o resultado da execução mais recente da conta atualGET /api/v2/worker-runs/last/export
get_last_worker_run_logVisualiza o log da execução mais recente da conta atualGET /api/v2/worker-runs/last/log
list_worker_run_resultsVisualiza o resultado de uma execução específicaGET /api/v2/worker-runs/{runId}/result
export_worker_run_resultsExporta o resultado de uma execução específicaGET /api/v2/worker-runs/{runId}/result/export
get_worker_run_logVisualiza o log de uma execução específicaGET /api/v2/worker-runs/{runId}/log
list_worker_last_run_resultsVisualiza o resultado da execução mais recente de um Worker específicoGET /api/v2/workers/{workerId}/runs/last/result
export_worker_last_run_resultsExporta o resultado da execução mais recente de um Worker específicoGET /api/v2/workers/{workerId}/runs/last/export
get_worker_last_run_logVisualiza o log da execução mais recente de um Worker específicoGET /api/v2/workers/{workerId}/runs/last/log

Reexecução e controle

FerramentaDescriçãoAPI correspondente
rerun_last_worker_runReexecuta a execução mais recente da conta atualPOST /api/v2/worker-runs/last/rerun
rerun_worker_runReexecuta uma execução específicaPOST /api/v2/worker-runs/{runId}/rerun
rerun_worker_last_runReexecuta a execução mais recente de um Worker específicoPOST /api/v2/workers/{workerId}/runs/last/rerun
abort_last_worker_runInterrompe a execução ativa mais recente da conta atualPOST /api/v2/worker-runs/last/abort
abort_worker_runInterrompe uma execução ativa específicaPOST /api/v2/worker-runs/{runId}/abort
abort_worker_last_runInterrompe a execução ativa mais recente de um Worker específicoPOST /api/v2/workers/{workerId}/runs/last/abort

Fluxos de trabalho típicos

Ao executar um Worker temporariamente, normalmente chame nesta ordem:

list_store_workers(keyword)
  -> get_worker_input_schema(worker_id)
    -> run_worker(worker_id, input_json, is_async=true)
      -> get_worker_run(run_id)
        -> list_worker_run_results(run_id) 或 export_worker_run_results(run_id)

Ao executar uma tarefa salva, use:

list_worker_tasks(worker_id)
  -> run_worker_task(worker_task_id, is_async=true)
    -> get_worker_run(run_id)
      -> list_worker_run_results(run_id)

Se o schema de entrada do Worker exigir região de proxy, chame list_proxy_regions primeiro. Use as ferramentas rerun_* somente quando o usuário solicitar explicitamente uma nova tentativa ou execução repetida; use as ferramentas abort_* somente quando o usuário solicitar explicitamente a interrupção da execução.

Entrada do Worker

Ao chamar run_worker , coloque os campos de negócio em input_json :

{
  "worker_id": "YOUR_WORKER_ID",
  "version": "latest",
  "input_json": "{\"keyword\":\"coffee\",\"limit\":10}",
  "is_async": true
}

O serviço MCP envolve input_json como o input.parameters.custom usado pelo CoreClaw. Chamadas avançadas podem passar o objeto CoreClaw input completo diretamente via raw_input_json , mas não podem passar input_json e raw_input_json ao mesmo tempo.

Plataformas suportadas

PlataformaMétodo de configuraçãoGuia
Claude DesktopStreamable HTTPGuia de configuração
Claude CLIStreamable HTTPGuia de configuração
Codex DesktopStreamable HTTPGuia de configuração
CursorStreamable HTTPGuia de configuração
ChatGPTStreamable HTTPGuia de configuração
VS CodeStreamable HTTPGuia de configuração
WindsurfStreamable HTTPGuia de configuração
ClineStreamable HTTPGuia de configuração
n8nStreamable HTTPGuia de configuração
HTTP genéricoQualquer cliente MCP Streamable HTTP ou chamador de ferramentas estilo RESTGuia de configuração

Endpoints compatíveis com REST

Além do endpoint MCP padrão /mcp , o serviço também oferece o endpoint compatível com REST /mcp/<tool_name> , adequado para plataformas que preferem fazer requisições HTTP por ferramenta:

curl -X POST https://mcp.coreclaw.com/mcp/list_store_workers \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer YOUR_CORECLAW_API_KEY" \
  -d '{"keyword":"amazon","offset":1,"limit":5}'

Mais exemplos de JSON-RPC e REST em Cliente HTTP genérico .

Solução de problemas

SintomaCausa possívelComo resolver
Invalid API keyChave ausente, incorreta ou expiradaVerifique a chave em Console -> Configurações -> API & Integrações
Worker does not exist (50001)Erro de worker_idUse list_store_workers ou list_workers para obter o slug/path retornado
Ferramentas não aparecemO cliente não carregou a configuração MCP Streamable HTTPReinicie o cliente e verifique o caminho da configuração MCP
Execução iniciada, mas sem linhas de resultadoA execução ainda está em andamento ou falhouFaça polling com get_worker_run ; em caso de falha, chame get_worker_run_log
Região de proxy rejeitadaCódigo de região de proxy inválidoChame list_proxy_regions e use os códigos de região retornados

Notas de limitação

  • O serviço hospedado usa Streamable HTTP. Clientes que suportam apenas stdio local precisam executar coreclaw-mcp-server localmente.
  • A autenticação é baseada em chave de API; o endpoint hospedado não requer OAuth.
  • Interfaces internas não são expostas via MCP, incluindo criação/atualização de versão de Worker e detalhes internos do Worker.

Próximos passos