Skills Nvidia

skills/skills/nemo-evaluator-plugin

À utiliser lorsque vous travaillez sur l'interface en ligne de commande du plugin Evaluator, les tâches, les spécifications basées sur le SDK, les types de métriques ou les compétences Evaluator appartenant au plugin.

nemo-fabric/skills/nemo-fabric-integrate

Utilisez cette compétence lors de l'intégration de NeMo Fabric dans une application grand public, un service, un harnais d'évaluation ou une plateforme via le SDK Python typé — traduisant…

skills/skills/nemo-mbridge-mlm-bridge-training

Exécutez l'entraînement Megatron-LM (MLM) et Megatron Bridge avec des données simulées ou réelles. Couvre les tests de corrélation, les recettes disponibles et les exemples multi-GPU.

skills/skills/nemo-mbridge-multi-node-slurm

Convertir des scripts mono-nœud en jobs sbatch Slurm multi-nœuds et déboguer les échecs multi-nœuds courants. Couvre les approches srun-native vs uv run torch.distributed,…

skills/skills/nemo-mbridge-perf-activation-recompute

Valider et utiliser le recalcul d'activation sélectif et complet dans Megatron Bridge pour réduire l'utilisation de la mémoire GPU au prix d'un calcul supplémentaire.

skills/skills/nemo-mbridge-perf-cpu-offloading

Valider et utiliser le déchargement CPU dans Megatron Bridge, y compris le déchargement d'activation au niveau des couches et le déchargement fractionné de l'état de l'optimiseur avec…

skills/skills/nemo-mbridge-perf-cuda-graphs

Valider et utiliser la capture de graphes CUDA dans Megatron Bridge, y compris les graphes locaux d'itération complète et les graphes délimités du Transformer Engine pour l'attention, le MLP et le MoE…

skills/skills/nemo-mbridge-perf-expert-parallel-overlap

Valider et utiliser le chevauchement de communication parallèle des experts MoE dans Megatron-Bridge, y compris overlap_moe_expert_parallel_comm, delay_wgrad_compute, et flex…

skills/skills/nemo-mbridge-perf-hierarchical-context-parallel

Guide opérationnel pour activer le parallélisme de contexte hiérarchique dans Megatron-Bridge, incluant les paramètres de configuration, les points d'ancrage du code, les pièges et la vérification.

skills/skills/nemo-mbridge-perf-megatron-fsdp

Guide opérationnel pour activer Megatron FSDP dans Megatron-Bridge, incluant les paramètres de configuration, les points d'ancrage du code, les pièges à éviter et la vérification.

skills/skills/nemo-mbridge-perf-memory-tuning

Techniques pour réduire la mémoire GPU de pointe dans Megatron Bridge — segments extensibles, re-rassemblement des entrées PEFT + SP, redimensionnement du parallélisme, recalcul d'activation, CPU…

skills/skills/nemo-mbridge-perf-moe-comm-overlap

Chevauchement de communication expert-parallèle MoE dans Megatron Bridge. Couvre le chevauchement dispatch/combine, les backends de dispatcher flexibles et la planification wgrad expert.

skills/skills/nemo-mbridge-perf-moe-dispatcher-selection

Choose the right MoE token dispatcher (`alltoall`, DeepEP, or HybridEP) for the hardware, EP degree, and optimization stage. Summarizes patterns from DSV3,…

skills/skills/nemo-mbridge-perf-moe-hardware-configs

Livres de jeu représentatifs de l'entraînement MoE par plateforme matérielle et famille de modèles. Résume les bandes de débit arrondies, les schémas de parallélisme et les réglages courants…

skills/skills/nemo-mbridge-perf-moe-long-context

Conseils d'entraînement MoE à long contexte pour Megatron Bridge. Couvre le dimensionnement CP, le recalcul sélectif, les choix de répartiteur et les schémas pratiques de DSV3, Qwen3, et…

skills/skills/nemo-mbridge-perf-moe-optimization-workflow

Flux de travail systématique pour l'optimisation de l'entraînement MoE dans Megatron Bridge, basé sur l'article Megatron-Core MoE. Couvre le cadre Three Walls, le pliage parallèle,…

skills/skills/nemo-mbridge-perf-moe-vlm-training

Guide pratique pour l'entraînement des MoE VLM dans Megatron Bridge. Compare les approches FSDP et parallélisme 3D, en utilisant des leçons concrètes tirées de Qwen3-VL, Qwen3-Next, et…

skills/skills/nemo-mbridge-perf-parallelism-strategies

Guide opérationnel pour choisir et combiner les stratégies de parallélisme dans Megatron Bridge, incluant les règles de dimensionnement, le mappage de la topologie matérielle, et les combinaisons…

skills/skills/nemo-mbridge-perf-sequence-packing

Valider et utiliser les séquences regroupées et l’entraînement en contexte long dans Megatron-Bridge, en distinguant le SFT regroupé hors ligne pour les LLMs du regroupement intra-lot pour les VLMs, et…

skills/skills/nemo-mbridge-perf-tp-dp-comm-overlap

Guide opérationnel pour activer le chevauchement des communications TP, DP et PP dans Megatron-Bridge, incluant les paramètres de configuration, les points d'ancrage dans le code, les pièges à éviter et la vérification.

skills/skills/nemo-mbridge-recipe-recommender

Recommander et personnaliser les recettes Megatron Bridge pour le modèle, le nombre de GPU et l'objectif d'entraînement d'un utilisateur. Indexe les recettes de la bibliothèque (pretrain/SFT/PEFT) et les performances…

skills/skills/nemo-mbridge-resiliency

Fonctionnalités de résilience dans Megatron Bridge incluant la tolérance aux pannes, la détection des retardataires, le redémarrage en cours de processus, la préemption et la machine d'état de réexécution.

nemo-relay/skills/nemo-relay-build-plugin

Construire et empaqueter un comportement d'exécution NeMo Relay réutilisable en tant que plugin activé par configuration avec validation et enregistrement sécurisé contre les rollbacks.

nemo-relay/skills/nemo-relay-debug-runtime-integration

Déboguer les problèmes d'intégration NeMo Relay côté application, tels que les échecs de chargement, les scopes inactifs, les événements manquants ou les problèmes de câblage adaptatif/plugin.

skills/skills/nemo-relay-debug-runtime-integration

Utilisez cette compétence lorsque NeMo Relay est installé ou importé mais que le comportement d'exécution côté application est manquant ou incorrect, y compris les échecs de chargement, l'inactivité…

nemo-relay/skills/nemo-relay-export-atif-trajectories

Exporter l'activité NeMo Relay sous forme de trajectoires ATIF pour relecture, analyse ou échange.

nemo-relay/skills/nemo-relay-export-openinference

Configurer et utiliser l'export OpenInference de NeMo Relay pour les backends OTLP qui comprennent la sémantique OpenInference.

nemo-relay/skills/nemo-relay-export-otel

Configurer et utiliser l'export OpenTelemetry de NeMo Relay pour les backends de tracing compatibles OTLP

nemo-relay/skills/nemo-relay-get-started

Utilisez cette compétence lorsque les utilisateurs de NeMo Relay pour la première fois souhaitent essayer Relay, choisir le démarrage rapide pris en charge le moins complexe, ou vérifier la valeur initiale via la CLI, a…

skills/skills/nemo-relay-get-started

Utilisez cette compétence lorsque les utilisateurs de NeMo Relay pour la première fois souhaitent essayer Relay, choisir le démarrage rapide pris en charge le moins complexe, ou vérifier la valeur initiale via la CLI, a…