Skills Nvidia

skills/skills/nemo-evaluator-plugin

Gunakan saat bekerja dengan CLI plugin Evaluator, pekerjaan, spesifikasi berbasis SDK, jenis metrik, atau keterampilan Evaluator milik plugin.

nemo-fabric/skills/nemo-fabric-integrate

Gunakan keterampilan ini saat mengintegrasikan NeMo Fabric ke dalam aplikasi konsumen, layanan, kerangka evaluasi, atau platform melalui Python SDK yang diketik — menerjemahkan…

skills/skills/nemo-mbridge-mlm-bridge-training

Jalankan pelatihan Megatron-LM (MLM) dan Megatron Bridge dengan data tiruan atau data nyata. Mencakup pengujian korelasi, resep yang tersedia, dan contoh multi-GPU.

skills/skills/nemo-mbridge-multi-node-slurm

Mengonversi skrip node tunggal menjadi pekerjaan sbatch Slurm multi-node dan men-debug kegagalan multi-node yang umum. Mencakup pendekatan srun-native vs uv run torch.distributed,…

skills/skills/nemo-mbridge-perf-activation-recompute

Memvalidasi dan menggunakan aktivasi recompute selektif dan penuh di Megatron Bridge untuk mengurangi penggunaan memori GPU dengan mengorbankan komputasi tambahan.

skills/skills/nemo-mbridge-perf-cpu-offloading

Memvalidasi dan menggunakan CPU offloading di Megatron Bridge, termasuk layer-level activation offloading dan fractional optimizer state offloading dengan…

skills/skills/nemo-mbridge-perf-cuda-graphs

Memvalidasi dan menggunakan penangkapan grafik CUDA di Megatron Bridge, termasuk grafik iterasi penuh lokal dan grafik lingkup Transformer Engine untuk attention, MLP, dan MoE…

skills/skills/nemo-mbridge-perf-expert-parallel-overlap

Memvalidasi dan menggunakan tumpang tindih komunikasi paralel ahli MoE di Megatron-Bridge, termasuk overlap_moe_expert_parallel_comm, delay_wgrad_compute, dan flex…

skills/skills/nemo-mbridge-perf-hierarchical-context-parallel

Panduan operasional untuk mengaktifkan paralelisme konteks hierarkis di Megatron-Bridge, termasuk pengaturan konfigurasi, jangkar kode, kendala, dan verifikasi.

skills/skills/nemo-mbridge-perf-megatron-fsdp

Panduan operasional untuk mengaktifkan Megatron FSDP di Megatron-Bridge, termasuk tombol konfigurasi, jangkar kode, jebakan, dan verifikasi.

skills/skills/nemo-mbridge-perf-memory-tuning

Teknik untuk mengurangi memori GPU puncak di Megatron Bridge — segmen yang dapat diperluas, pengumpulan ulang input PEFT + SP, penyesuaian ukuran paralelisme, komputasi ulang aktivasi, CPU…

skills/skills/nemo-mbridge-perf-moe-comm-overlap

Overlap komunikasi paralel ahli MoE di Megatron Bridge. Mencakup overlap dispatch/combine, backend dispatcher fleksibel, dan penjadwalan wgrad ahli.

skills/skills/nemo-mbridge-perf-moe-dispatcher-selection

Choose the right MoE token dispatcher (`alltoall`, DeepEP, or HybridEP) for the hardware, EP degree, and optimization stage. Summarizes patterns from DSV3,…

skills/skills/nemo-mbridge-perf-moe-hardware-configs

Buku pedoman pelatihan MoE yang representatif berdasarkan platform perangkat keras dan keluarga model. Merangkum pita throughput yang dibulatkan, pola paralelisme, dan penyetelan umum…

skills/skills/nemo-mbridge-perf-moe-long-context

Panduan pelatihan MoE konteks panjang untuk Megatron Bridge. Mencakup ukuran CP, komputasi ulang selektif, pilihan dispatcher, dan pola praktis dari DSV3, Qwen3, dan…

skills/skills/nemo-mbridge-perf-moe-optimization-workflow

Alur kerja sistematis untuk optimasi pelatihan MoE di Megatron Bridge, berdasarkan makalah Megatron-Core MoE. Mencakup kerangka Three Walls, pelipatan paralel,…

skills/skills/nemo-mbridge-perf-moe-vlm-training

Panduan praktis untuk melatih MoE VLM di Megatron Bridge. Membandingkan pendekatan FSDP dan 3D-paralel, menggunakan pelajaran yang dibulatkan dari Qwen3-VL, Qwen3-Next, dan…

skills/skills/nemo-mbridge-perf-parallelism-strategies

Panduan operasional untuk memilih dan menggabungkan strategi paralelisme di Megatron Bridge, termasuk aturan ukuran, pemetaan topologi perangkat keras, dan kombinasi…

skills/skills/nemo-mbridge-perf-sequence-packing

Memvalidasi dan menggunakan sekuens terpaket serta pelatihan konteks panjang di Megatron-Bridge, membedakan antara SFT terpaket offline untuk LLM dan pengepakan dalam batch untuk VLM, dan…

skills/skills/nemo-mbridge-perf-tp-dp-comm-overlap

Panduan operasional untuk mengaktifkan tumpang tindih komunikasi TP, DP, dan PP di Megatron-Bridge, termasuk pengaturan konfigurasi, jangkar kode, kendala, dan verifikasi.

skills/skills/nemo-mbridge-recipe-recommender

Rekomendasikan dan sesuaikan resep Megatron Bridge untuk model, jumlah GPU, dan tujuan pelatihan pengguna. Mengindeks resep perpustakaan (pretrain/SFT/PEFT) dan kinerja…

skills/skills/nemo-mbridge-resiliency

Fitur ketahanan di Megatron Bridge termasuk toleransi kesalahan, deteksi straggler, mulai ulang dalam proses, preemption, dan mesin status ulang ulang.

nemo-relay/skills/nemo-relay-build-plugin

Membangun dan mengemas perilaku runtime NeMo Relay yang dapat digunakan kembali sebagai plugin yang diaktifkan konfigurasi dengan validasi dan registrasi yang aman untuk rollback.

nemo-relay/skills/nemo-relay-debug-runtime-integration

Debug masalah integrasi NeMo Relay di sisi aplikasi seperti kegagalan muat, cakupan tidak aktif, event hilang, atau masalah perutean adaptif/plugin

skills/skills/nemo-relay-debug-runtime-integration

Gunakan keterampilan ini ketika NeMo Relay terpasang atau diimpor tetapi perilaku runtime sisi aplikasi hilang atau salah, termasuk kegagalan pemuatan, tidak aktif…

nemo-relay/skills/nemo-relay-export-atif-trajectories

Ekspor aktivitas NeMo Relay sebagai trajektori ATIF untuk pemutaran ulang, analisis, atau pertukaran

nemo-relay/skills/nemo-relay-export-openinference

Konfigurasikan dan gunakan ekspor NeMo Relay OpenInference untuk backend OTLP yang memahami semantik OpenInference

nemo-relay/skills/nemo-relay-export-otel

Konfigurasi dan gunakan ekspor OpenTelemetry NeMo Relay untuk backend tracing yang kompatibel dengan OTLP.

nemo-relay/skills/nemo-relay-get-started

Gunakan skill ini ketika pengguna NeMo Relay pertama kali ingin mencoba Relay, memilih quick start yang didukung dengan kompleksitas paling rendah, atau memverifikasi nilai awal melalui CLI, a…

skills/skills/nemo-relay-get-started

Gunakan keterampilan ini ketika pengguna NeMo Relay yang baru pertama kali ingin mencoba Relay, memilih quick start yang didukung dengan kompleksitas paling rendah, atau memverifikasi nilai awal melalui CLI, a…