Nvidia技能

skills/skills/nemo-evaluator-plugin

在處理 Evaluator 插件 CLI、任務、SDK 支援的規格、指標類型或插件擁有的 Evaluator 技能時使用。

nemo-fabric/skills/nemo-fabric-integrate

在透過型別化的 Python SDK 將 NeMo Fabric 整合到消費者應用程式、服務、評估框架或平台時使用此技能——翻譯…

skills/skills/nemo-mbridge-mlm-bridge-training

使用模擬或真實資料執行 Megatron-LM (MLM) 與 Megatron Bridge 訓練，涵蓋相關性測試、可用配方及多 GPU 範例。

skills/skills/nemo-mbridge-multi-node-slurm

將單節點腳本轉換為多節點 Slurm sbatch 作業，並調試常見的多節點故障。涵蓋 srun-native 與 uv run torch.distributed 方法，…

skills/skills/nemo-mbridge-perf-activation-recompute

在 Megatron Bridge 中驗證並使用選擇性與完整激活重算，以額外計算為代價減少 GPU 記憶體使用。

skills/skills/nemo-mbridge-perf-cpu-offloading

驗證並在 Megatron Bridge 中使用 CPU 卸載，包括層級激活卸載以及部分優化器狀態卸載，搭配…

skills/skills/nemo-mbridge-perf-cuda-graphs

在 Megatron Bridge 中驗證並使用 CUDA 圖形捕捉，包括本機完整迭代圖形以及用於注意力、MLP 和 MoE 的 Transformer Engine 範圍圖形…

skills/skills/nemo-mbridge-perf-expert-parallel-overlap

在Megatron-Bridge中驗證並使用MoE專家並行通訊重疊，包括overlap_moe_expert_parallel_comm、delay_wgrad_compute和flex…

skills/skills/nemo-mbridge-perf-hierarchical-context-parallel

在Megatron-Bridge中啟用分層上下文並行的操作指南，包括配置參數、程式碼錨點、常見陷阱及驗證方法。

skills/skills/nemo-mbridge-perf-megatron-fsdp

在Megatron-Bridge中啟用Megatron FSDP的操作指南，包含配置參數、程式碼錨點、常見陷阱及驗證方法。

skills/skills/nemo-mbridge-perf-memory-tuning

在 Megatron Bridge 中減少 GPU 峰值記憶體的技術 — 可擴展區段、PEFT + SP 輸入重新收集、並行度調整、激活重計算、CPU…

skills/skills/nemo-mbridge-perf-moe-comm-overlap

在 Megatron Bridge 中實現 MoE 專家並行通訊重疊，涵蓋 dispatch/combine 重疊、flex dispatcher 後端以及專家 wgrad 排程。

skills/skills/nemo-mbridge-perf-moe-dispatcher-selection

Choose the right MoE token dispatcher (`alltoall`, DeepEP, or HybridEP) for the hardware, EP degree, and optimization stage. Summarizes patterns from DSV3,…

skills/skills/nemo-mbridge-perf-moe-hardware-configs

各硬體平台與模型系列的代表性MoE訓練手冊，總結了吞吐量區間、平行化模式及常見調校方式…

skills/skills/nemo-mbridge-perf-moe-long-context

針對Megatron Bridge的長上下文MoE訓練指導，涵蓋CP大小調整、選擇性重計算、調度器選擇，以及來自DSV3、Qwen3等的實用模式。

skills/skills/nemo-mbridge-perf-moe-optimization-workflow

基於Megatron-Core MoE論文的Megatron Bridge中MoE訓練優化的系統化工作流程。涵蓋三道牆框架、平行折疊、…

skills/skills/nemo-mbridge-perf-moe-vlm-training

在 Megatron Bridge 中訓練 MoE VLM 的實用指南。比較 FSDP 與 3D 平行方法，並使用來自 Qwen3-VL、Qwen3-Next 等的完整經驗教訓。

skills/skills/nemo-mbridge-perf-parallelism-strategies

Megatron Bridge 中選擇與組合平行化策略的操作指南，包含規模設定規則、硬體拓撲映射，以及組合…

skills/skills/nemo-mbridge-perf-sequence-packing

驗證並在 Megatron-Bridge 中使用打包序列與長上下文訓練，區分 LLM 的離線打包 SFT 與 VLM 的批次內打包，以及…

skills/skills/nemo-mbridge-perf-tp-dp-comm-overlap

在 Megatron-Bridge 中啟用 TP、DP 與 PP 通訊重疊的操作指南，包含配置參數、程式碼錨點、常見陷阱與驗證方法。

skills/skills/nemo-mbridge-recipe-recommender

根據使用者的模型、GPU數量及訓練目標，推薦並自訂Megatron Bridge配方。索引庫配方（預訓練/SFT/PEFT）及效能…

skills/skills/nemo-mbridge-resiliency

Megatron Bridge 中的韌性功能，包括容錯、落後者偵測、程序內重啟、搶佔及重新執行狀態機。

nemo-relay/skills/nemo-relay-build-plugin

建置並封裝可重複使用的 NeMo Relay 執行時期行為，作為可透過設定啟用的外掛程式，並具備驗證與支援回滾的安全註冊機制。

nemo-relay/skills/nemo-relay-debug-runtime-integration

偵錯應用端 NeMo Relay 整合問題，例如載入失敗、作用域未啟用、缺少事件，或自適應/外掛接線問題

skills/skills/nemo-relay-debug-runtime-integration

當 NeMo Relay 已安裝或匯入，但應用程式端的運行時行為缺失或不正確時，使用此技能，包括載入失敗、無作用…

nemo-relay/skills/nemo-relay-export-atif-trajectories

將 NeMo Relay 活動匯出為 ATIF 軌跡，以供重播、分析或交換

nemo-relay/skills/nemo-relay-export-openinference

設定並使用 NeMo Relay OpenInference 匯出功能，以支援理解 OpenInference 語意的 OTLP 後端

nemo-relay/skills/nemo-relay-export-otel

設定並使用 NeMo Relay OpenTelemetry 匯出功能，以支援 OTLP 相容的追蹤後端

nemo-relay/skills/nemo-relay-get-started

當首次使用 NeMo Relay 的使用者想試用 Relay、選擇最簡單的支援快速入門方式，或透過 CLI 驗證初始價值時，請使用此技能，…

skills/skills/nemo-relay-get-started

當首次使用 NeMo Relay 的使用者想要試用 Relay、選擇最簡單的受支援快速入門方式，或透過 CLI 驗證初步價值時，請使用此技能……