Nvidia Skills

skills/skills/nemo-evaluator-plugin

Verwenden Sie, wenn Sie am Evaluator-Plugin-CLI, Jobs, SDK-gestützten Spezifikationen, Metriktypen oder plugin-eigenen Evaluator-Fähigkeiten arbeiten.

nemo-fabric/skills/nemo-fabric-integrate

Verwenden Sie diese Fähigkeit, wenn Sie NeMo Fabric in eine Verbraucheranwendung, einen Dienst, eine Evaluierungsumgebung oder eine Plattform über das typisierte Python-SDK integrieren – Übersetzen…

skills/skills/nemo-mbridge-mlm-bridge-training

Führen Sie Megatron-LM (MLM) und Megatron Bridge Training mit Mock- oder echten Daten durch. Beinhaltet Korrelationstests, verfügbare Rezepte und Multi-GPU-Beispiele.

skills/skills/nemo-mbridge-multi-node-slurm

Konvertiert Single-Node-Skripte in Multi-Node-Slurm-sbatch-Jobs und debuggt häufige Multi-Node-Fehler. Behandelt srun-native vs. uv run torch.distributed-Ansätze,…

skills/skills/nemo-mbridge-perf-activation-recompute

Validieren und verwenden Sie selektive und vollständige Aktivierungs-Neuberechnung in der Megatron Bridge, um GPU-Speichernutzung zu reduzieren, auf Kosten zusätzlicher Rechenleistung.

skills/skills/nemo-mbridge-perf-cpu-offloading

Validieren und Nutzen von CPU-Offloading in Megatron Bridge, einschließlich Offloading auf Layer-Ebene von Aktivierungen und fraktionalem Offloading von Optimiererzuständen mit…

skills/skills/nemo-mbridge-perf-cuda-graphs

Validieren und Verwenden der CUDA-Grapherfassung in Megatron Bridge, einschließlich lokaler vollständiger Iterationsgraphen und Transformer Engine bereichsbezogener Graphen für Attention, MLP und MoE…

skills/skills/nemo-mbridge-perf-expert-parallel-overlap

Validieren und Nutzen der MoE-Expert-Parallel-Kommunikationsüberlappung in Megatron-Bridge, einschließlich overlap_moe_expert_parallel_comm, delay_wgrad_compute und flex…

skills/skills/nemo-mbridge-perf-hierarchical-context-parallel

Betriebsanleitung zur Aktivierung des hierarchischen Kontext-Parallelismus in Megatron-Bridge, einschließlich Konfigurationsparametern, Code-Ankerpunkten, Fallstricken und Verifikation.

skills/skills/nemo-mbridge-perf-megatron-fsdp

Betriebsanleitung zur Aktivierung von Megatron FSDP in Megatron-Bridge, einschließlich Konfigurationsparametern, Code-Ankerpunkten, Fallstricken und Verifizierung.

skills/skills/nemo-mbridge-perf-memory-tuning

Techniken zur Reduzierung des Spitzen-GPU-Speichers in Megatron Bridge — erweiterbare Segmente, PEFT + SP Eingabe-Neuaufnahme, Parallelitätsanpassung, Aktivierungs-Neuberechnung, CPU…

skills/skills/nemo-mbridge-perf-moe-comm-overlap

MoE-Experten-parallele Kommunikationsüberlappung in Megatron Bridge. Behandelt Dispatch/Combine-Überlappung, Flex-Dispatcher-Backends und Expert-Wgrad-Scheduling.

skills/skills/nemo-mbridge-perf-moe-dispatcher-selection

Choose the right MoE token dispatcher (`alltoall`, DeepEP, or HybridEP) for the hardware, EP degree, and optimization stage. Summarizes patterns from DSV3,…

skills/skills/nemo-mbridge-perf-moe-hardware-configs

Repräsentative MoE-Trainingsplaybooks nach Hardwareplattform und Modellfamilie. Fasst gerundete Durchsatzbänder, Parallelitätsmuster und gängige Optimierung…

skills/skills/nemo-mbridge-perf-moe-long-context

Langkontext-MoE-Trainingsanleitung für Megatron Bridge. Behandelt CP-Größenbestimmung, selektive Neuberechnung, Dispatcher-Auswahl und praktische Muster von DSV3, Qwen3 und…

skills/skills/nemo-mbridge-perf-moe-optimization-workflow

Systematischer Workflow zur Optimierung des MoE-Trainings in Megatron Bridge, basierend auf dem Megatron-Core MoE-Papier. Behandelt das Three-Walls-Framework, paralleles Falten,…

skills/skills/nemo-mbridge-perf-moe-vlm-training

Praktische Anleitung zum Training von MoE-VLMs in Megatron Bridge. Vergleicht FSDP- und 3D-Parallel-Ansätze anhand abgerundeter Erkenntnisse aus Qwen3-VL, Qwen3-Next und…

skills/skills/nemo-mbridge-perf-parallelism-strategies

Betriebsanleitung zur Auswahl und Kombination von Parallelitätsstrategien in Megatron Bridge, einschließlich Dimensionierungsregeln, Hardware-Topologie-Mapping und kombinierter…

skills/skills/nemo-mbridge-perf-sequence-packing

Validieren und verwenden Sie gepackte Sequenzen und Long-Context-Training in Megatron-Bridge, wobei Sie zwischen offline gepacktem SFT für LLMs und In-Batch-Packing für VLMs unterscheiden, und…

skills/skills/nemo-mbridge-perf-tp-dp-comm-overlap

Betriebsanleitung zur Aktivierung von TP-, DP- und PP-Kommunikationsüberlappung in Megatron-Bridge, einschließlich Konfigurationsparametern, Code-Ankerpunkten, Fallstricken und Verifikation.

skills/skills/nemo-mbridge-recipe-recommender

Empfehlen und Anpassen von Megatron Bridge Rezepten basierend auf dem Modell, der GPU-Anzahl und dem Trainingsziel des Benutzers. Indiziert Bibliotheksrezepte (Pretrain/SFT/PEFT) und Leistungs…

skills/skills/nemo-mbridge-resiliency

Resilienzfunktionen in der Megatron Bridge, einschließlich Fehlertoleranz, Erkennung von Nachzüglern, Neustart innerhalb des Prozesses, Präemption und Zustandsmaschine für Wiederholungen.

nemo-relay/skills/nemo-relay-build-plugin

Baue und verpacke wiederverwendbares NeMo Relay-Laufzeitverhalten als konfigurationsaktiviertes Plugin mit Validierung und rückrollsicherer Registrierung.

nemo-relay/skills/nemo-relay-debug-runtime-integration

Debuggen Sie anwendungsseitige NeMo Relay-Integrationsprobleme wie Ladefehler, inaktive Scopes, fehlende Ereignisse oder adaptive/Plugin-Verdrahtungsprobleme

skills/skills/nemo-relay-debug-runtime-integration

Verwenden Sie diese Fähigkeit, wenn NeMo Relay installiert oder importiert ist, aber das anwendungsseitige Laufzeitverhalten fehlt oder fehlerhaft ist, einschließlich Ladefehler, inaktiver…

nemo-relay/skills/nemo-relay-export-atif-trajectories

Exportieren Sie NeMo Relay-Aktivitäten als ATIF-Trajektorien zur Wiedergabe, Analyse oder zum Austausch

nemo-relay/skills/nemo-relay-export-openinference

Konfigurieren und verwenden Sie den NeMo Relay OpenInference Export für OTLP-Backends, die OpenInference-Semantik verstehen

nemo-relay/skills/nemo-relay-export-otel

Konfigurieren und verwenden Sie den NeMo Relay OpenTelemetry-Export für OTLP-kompatible Tracing-Backends

nemo-relay/skills/nemo-relay-get-started

Verwenden Sie diese Fähigkeit, wenn NeMo Relay-Neulinge Relay ausprobieren möchten, den am wenigsten komplexen unterstützten Schnellstart wählen oder den anfänglichen Nutzen über die CLI verifizieren möchten, a…

skills/skills/nemo-relay-get-started

Verwenden Sie diese Fähigkeit, wenn NeMo-Relay-Erstbenutzer Relay ausprobieren möchten, den am wenigsten komplexen unterstützten Schnellstart wählen oder den ersten Nutzen über die CLI überprüfen möchten, a…