google-agents-cli-observability

bởi google

Kỹ năng này nên được sử dụng khi người dùng muốn "thiết lập theo dõi", "giám sát tác nhân ADK của tôi", "cấu hình ghi nhật ký", "thêm khả năng quan sát", "gỡ lỗi lưu lượng sản xuất", hoặc cần hướng dẫn về giám sát các tác nhân ADK (Agent Development Kit) đã triển khai. Bao gồm Cloud Trace, ghi nhật ký phản hồi-prompt, BigQuery Agent Analytics, tích hợp bên thứ ba (AgentOps, Phoenix, MLflow, v.v.) và khắc phục sự cố. Là một phần của bộ kỹ năng Google ADK (Agent Development Kit). KHÔNG sử dụng cho thiết lập triển khai (sử dụng...

npx skills add https://github.com/google/agents-cli --skill google-agents-cli-observability

ADK Observability Guide

Cloud Trace works out of the box — no infrastructure needed. Prompt-response logging and BigQuery Agent Analytics require Terraform-provisioned infrastructure (service account, GCS bucket, BigQuery dataset). Run agents-cli infra single-project --project PROJECT_ID to provision these resources. See references/cloud-trace-and-logging.md for details, env vars, and verification commands. If your project isn't scaffolded yet, see /google-agents-cli-scaffold first.

Order of operations for agent_runtime deployments

For deployment_target = agent_runtime, run agents-cli infra single-project before the first agents-cli deploy. The Terraform module owns the entire Reasoning Engine resource (service account, deployment spec, env vars), so applying it after an SDK-based deploy creates a state mismatch Terraform can't reconcile without taking ownership of the whole resource.

Already ran agents-cli deploy? Two options:

  1. Switch to Terraform-managed — delete the SDK-deployed Reasoning Engine, then run agents-cli infra single-project and agents-cli deploy (sessions and in-flight state are lost).
  2. Keep the SDK-deployed instance — skip infra single-project and set the observability env vars by re-running agents-cli deploy --update-env-vars "KEY=VALUE,..."; deploy matches the existing Reasoning Engine by display name and updates it in place, preserving env vars set outside the deploy. You must also grant its service account the telemetry IAM roles the Terraform module would otherwise provision: roles/storage.admin (write completions to the logs bucket), roles/logging.logWriter, roles/cloudtrace.agent, plus roles/bigquery.dataOwner + roles/bigquery.jobUser when scaffolded with --bq-analytics. The full set lives in deployment/terraform/single-project/iam.tf (from app_sa_roles) and telemetry.tf. Terraform-managed env vars aren't available in this mode.

Reference Files

FileContents
references/cloud-trace-and-logging.mdScaffolded project details — Terraform-provisioned resources, environment variables, verification commands, enabling/disabling locally
references/bigquery-agent-analytics.mdBQ Agent Analytics plugin — enabling, key features, GCS offloading, tool provenance

Observability Tiers

Choose the right level of observability based on your needs:

TierWhat It DoesScopeDefault StateBest For
Cloud TraceDistributed tracing — execution flow, latency, errors via OpenTelemetry spansAll templates, all environmentsAlways enabledDebugging latency, understanding agent execution flow
Prompt-Response LoggingGenAI interactions exported to GCS, BigQuery, and Cloud LoggingADK agents onlyDisabled locally, enabled when deployedAuditing LLM interactions, compliance
BigQuery Agent AnalyticsStructured agent events (LLM calls, tool use, outcomes) to BigQueryADK agents with plugin enabledOpt-in (--bq-analytics at scaffold time)Conversational analytics, custom dashboards, LLM-as-judge evals
Third-Party IntegrationsExternal observability platforms (AgentOps, Phoenix, MLflow, etc.)Any ADK agentOpt-in, per-provider setupTeam collaboration, specialized visualization, prompt management

Ask the user which tier(s) they need — they can be combined. Cloud Trace is always on; the others are additive.


Cloud Trace

ADK uses OpenTelemetry to emit distributed traces. Every agent invocation produces spans that track the full execution flow.

Span Hierarchy

invoke_workflow (top-level run)
  └── invoke_agent (one per agent in the chain)
        ├── call_llm (model request)
        │     └── generate_content (underlying GenAI model call)
        └── execute_tool (tool execution)

Setup by Deployment Type

DeploymentSetup
Agent RuntimeAutomatic — get_fast_api_app(otel_to_cloud=True), gated on GOOGLE_CLOUD_AGENT_ENGINE_ENABLE_TELEMETRY (set by deploy); exports to Cloud Trace/Logging + Agent Engine console
Cloud Run / GKE (scaffolded)Automatic — get_fast_api_app(otel_to_cloud=True) exports to Cloud Trace/Logging
Cloud Run / GKE (manual)Configure OpenTelemetry exporter in your app
Local devWorks with agents-cli playground; traces visible in Cloud Console

View traces: Cloud Console → Trace → Trace explorer

For detailed setup instructions (Agent Runtime CLI/SDK, Cloud Run, custom deployments), fetch https://adk.dev/integrations/cloud-trace/index.md.


Prompt-Response Logging

Captures GenAI interactions and exports to GCS (JSONL) and BigQuery (via log sinks + external tables). Content is governed by two independent tiers; the net Terraform-deploy default is full content in GCS/BigQuery, none in traces:

TierCapturesControlled byDefault (Terraform deploy)
GCS/BigQuery completionsFull prompts/responses (the prompt-response logging feature)OTEL_INSTRUMENTATION_GENAI_COMPLETION_HOOK=upload + LOGS_BUCKET_NAMEOn — full content
Trace spans / Cloud Logging eventsSpan/event contentOTEL_INSTRUMENTATION_GENAI_CAPTURE_MESSAGE_CONTENT + ADK_CAPTURE_MESSAGE_CONTENT_IN_SPANS=falseOffNO_CONTENT

The tiers are independent: GCS/BigQuery uploads capture full content whenever their upload vars are set and do not honor OTEL_INSTRUMENTATION_GENAI_CAPTURE_MESSAGE_CONTENT, which governs the traces/events tier only. Its valid (experimental-semconv) values:

  • NO_CONTENT — no content in spans/events (scaffolded default)
  • EVENT_ONLY — content in Cloud Logging events
  • SPAN_ONLY / SPAN_AND_EVENT — content in trace spans
  • true / falseinvalid; fall back to NO_CONTENT

For the full mechanics (semconv opt-in, declarative Terraform config, env-var table, enabling/disabling, verification commands), see references/cloud-trace-and-logging.md. For ADK logging docs (log levels, configuration, debugging), fetch https://adk.dev/observability/logging/index.md.


BigQuery Agent Analytics Plugin

Optional plugin that logs structured agent events to BigQuery. Enable with --bq-analytics at scaffold time. See references/bigquery-agent-analytics.md for details.


Third-Party Integrations

ADK supports many third-party observability platforms (via OpenTelemetry or custom instrumentation). The table below covers common ones; the full list is larger (see the pointer below it).

PlatformKey DifferentiatorSetup ComplexitySelf-Hosted Option
AgentOpsSession replays, 2-line setup, replaces native telemetryMinimalNo (SaaS)
Arize AXCommercial platform, production monitoring, evaluation dashboardsLowNo (SaaS)
PhoenixOpen-source, custom evaluators, experiment testingLowYes
MLflowOTel traces to MLflow Tracking Server, span tree visualizationMedium (needs SQL backend)Yes
Monocle1-call setup, VS Code Gantt chart visualizerMinimalYes (local files)
WeaveW&B platform, team collaboration, timeline viewsLowNo (SaaS)
FreeplayPrompt management + evals + observability in one platformLowNo (SaaS)

Ask the user which platform they prefer — present the trade-offs and let them choose. Fetch a platform's setup page at https://adk.dev/integrations/<slug>/index.md (slugs for the table above: agentops, arize-ax, phoenix, mlflow-tracing, monocle, weave, freeplay). ADK has more observability integrations (Datadog, Galileo, LangWatch, Latitude, Future AGI, Respan, Zespan, …) — browse the complete, current list at https://adk.dev/integrations/ (observability topic).


Troubleshooting

IssueSolution
No traces in Cloud TraceVerify fast_api_app.py uses get_fast_api_app(otel_to_cloud=True) (Agent Runtime gates it on GOOGLE_CLOUD_AGENT_ENGINE_ENABLE_TELEMETRY) and the SA has the cloudtrace.agent role
Prompt-response data not appearingCheck LOGS_BUCKET_NAME is set; verify SA has storage.objectCreator on the bucket; check app logs for telemetry setup warnings
Content in traces/events (unwanted)OTEL_INSTRUMENTATION_GENAI_CAPTURE_MESSAGE_CONTENT=NO_CONTENT keeps content out of spans/events. NOTE: GCS/BigQuery completions still capture full content — to stop that, remove LOGS_BUCKET_NAME/OTEL_INSTRUMENTATION_GENAI_COMPLETION_HOOK (drop the upload block in service.tf)
BigQuery Analytics not loggingVerify plugin is configured in app/agent.py; check BQ_ANALYTICS_DATASET_ID env var is set
Third-party integration not capturing spansCheck provider-specific env vars (API keys, endpoints); some providers (AgentOps) replace native telemetry
Traces missing tool spansTool execution spans appear under execute_tool — check trace explorer filters
High telemetry costsSwitch to NO_CONTENT mode; reduce BigQuery retention; disable unused tiers

Deep Dive: ADK Docs (WebFetch URLs)

For detailed documentation beyond what this skill covers, fetch these pages:

TopicURL
Observability overviewhttps://adk.dev/observability/index.md
Agent activity logginghttps://adk.dev/observability/logging/index.md
Cloud Trace integrationhttps://adk.dev/integrations/cloud-trace/index.md
BigQuery Agent Analyticshttps://adk.dev/integrations/bigquery-agent-analytics/index.md

Related Skills

  • /google-agents-cli-deploy — Deployment targets, CI/CD pipelines, and production workflows
  • /google-agents-cli-workflow — Development workflow, coding guidelines, and operational rules
  • /google-agents-cli-adk-code — ADK Python API quick reference for writing agent code

Thêm skills từ google

google-agents-cli-adk-code
google
Kỹ năng này nên được sử dụng khi người dùng muốn "viết mã tác tử", "xây dựng tác tử với ADK", "thêm công cụ", "tạo callback", "định nghĩa tác tử", "sử dụng quản lý trạng thái", hoặc cần các mẫu mã và ví dụ về API Python của ADK (Bộ công cụ phát triển tác tử). Là một phần của bộ kỹ năng Google ADK. Cung cấp tài liệu tham khảo nhanh về các loại tác tử, định nghĩa công cụ, mẫu điều phối, callback và quản lý trạng thái. KHÔNG sử dụng để tạo dự án mới (sử dụng google-agents-cli-scaffold) hoặc triển khai...
developmentapicode-review
google-agents-cli-eval
google
Kỹ năng này nên được sử dụng khi người dùng muốn "chạy đánh giá", "đánh giá ADK agent của tôi", "viết tập dữ liệu đánh giá", "phân tích lỗi đánh giá", "so sánh kết quả đánh giá", "tối ưu hóa agent", hoặc cần hướng dẫn về phương pháp đánh giá của Agent Platform và Quality Flywheel. Bao gồm các chỉ số đánh giá, lược đồ tập dữ liệu, chấm điểm LLM-as-judge và các nguyên nhân lỗi phổ biến. KHÔNG sử dụng cho các mẫu mã API (sử dụng google-agents-cli-adk-code), triển khai (sử dụng google-agents-cli-deploy) hoặc tạo khung dự án (sử dụng...
developmenttestingdata-analysis
google-agents-cli-workflow
google
Kỹ năng này nên được sử dụng khi người dùng muốn "phát triển một tác nhân", "xây dựng tác nhân bằng ADK", "chạy tác nhân cục bộ", "gỡ lỗi mã tác nhân", "kiểm thử tác nhân", "triển khai tác nhân", "xuất bản tác nhân", "giám sát tác nhân", hoặc cần vòng đời phát triển ADK (Bộ công cụ phát triển tác nhân) và hướng dẫn viết mã. Điểm vào để xây dựng tác nhân ADK. Luôn hoạt động — cung cấp quy trình làm việc đầy đủ (tạo khung, xây dựng, đánh giá, triển khai, xuất bản, quan sát
developmentdevopstesting
google-agents-cli-deploy
google
Kỹ năng này nên được sử dụng khi người dùng muốn "triển khai một tác nhân", "triển khai tác nhân ADK của tôi", "thiết lập CI/CD", "cấu hình bí mật", "khắc phục sự cố triển khai", hoặc cần hướng dẫn về Agent Runtime, Cloud Run, hoặc các mục tiêu triển khai GKE. Bao gồm các quy trình triển khai, tài khoản dịch vụ, rollback và cơ sở hạ tầng sản xuất. Là một phần của bộ kỹ năng Google ADK (Agent Development Kit). KHÔNG sử dụng cho các mẫu mã API (sử dụng google-agents-cli-adk-code), đánh giá (sử dụng google-agents-cli-eval), hoặc...
developmentdevops
google-agents-cli-scaffold
google
Kỹ năng này nên được sử dụng khi người dùng muốn "tạo một dự án agent", "bắt đầu một dự án ADK mới", "xây dựng cho tôi một agent mới", "thêm CI/CD vào dự án của tôi", "thêm triển khai", "nâng cấp dự án của tôi" hoặc "cải tiến dự án của tôi". Một phần của
developmentdevops
google-agents-cli-publish
google
Kỹ năng này nên được sử dụng khi người dùng muốn "xuất bản một agent", "xuất bản agent ADK của tôi", "đăng ký agent với Gemini Enterprise", "xuất bản lên Gemini Enterprise", hoặc cần hướng dẫn về lệnh agents-cli publish gemini-enterprise. Bao gồm các chế độ đăng ký ADK và A2A, cách sử dụng theo chương trình và tương tác, tham chiếu cờ, tự động phát hiện từ siêu dữ liệu triển khai, và khắc phục sự cố. Là một phần của bộ kỹ năng Google ADK (Bộ công cụ phát triển Agent). KHÔNG sử dụng cho việc triển khai (sử dụng...
developmentdevopsapi