Skills de Nvidia

skills/skills/nemo-evaluator-plugin

Use ao trabalhar com a CLI do plugin Evaluator, jobs, especificações baseadas em SDK, tipos de métrica ou skills do Evaluator de propriedade do plugin.

nemo-fabric/skills/nemo-fabric-integrate

Use esta habilidade ao integrar o NeMo Fabric em um aplicativo de consumo, serviço, harness de avaliação ou plataforma por meio do SDK Python tipado — traduzindo…

skills/skills/nemo-mbridge-mlm-bridge-training

Execute o treinamento Megatron-LM (MLM) e Megatron Bridge com dados simulados ou reais. Abrange testes de correlação, receitas disponíveis e exemplos multi-GPU.

skills/skills/nemo-mbridge-multi-node-slurm

Converte scripts de nó único para jobs sbatch Slurm multi-nó e depura falhas comuns de multi-nó. Aborda abordagens srun-native vs uv run torch.distributed,…

skills/skills/nemo-mbridge-perf-activation-recompute

Validar e usar recomputação de ativação seletiva e completa na Megatron Bridge para reduzir o uso de memória da GPU ao custo de computação extra.

skills/skills/nemo-mbridge-perf-cpu-offloading

Validar e usar o descarregamento de CPU na Megatron Bridge, incluindo o descarregamento de ativação em nível de camada e o descarregamento fracionado do estado do otimizador com…

skills/skills/nemo-mbridge-perf-cuda-graphs

Validar e usar a captura de gráficos CUDA no Megatron Bridge, incluindo gráficos locais de iteração completa e gráficos com escopo do Transformer Engine para atenção, MLP e MoE…

skills/skills/nemo-mbridge-perf-expert-parallel-overlap

Validar e usar a sobreposição de comunicação paralela de especialistas MoE no Megatron-Bridge, incluindo overlap_moe_expert_parallel_comm, delay_wgrad_compute e flex…

skills/skills/nemo-mbridge-perf-hierarchical-context-parallel

Guia operacional para habilitar paralelismo de contexto hierárquico no Megatron-Bridge, incluindo parâmetros de configuração, pontos de ancoragem no código, armadilhas e verificação.

skills/skills/nemo-mbridge-perf-megatron-fsdp

Guia operacional para habilitar Megatron FSDP no Megatron-Bridge, incluindo parâmetros de configuração, âncoras de código, armadilhas e verificação.

skills/skills/nemo-mbridge-perf-memory-tuning

Técnicas para reduzir o pico de memória da GPU no Megatron Bridge — segmentos expansíveis, reagrupamento de entrada PEFT + SP, redimensionamento de paralelismo, recomputação de ativação, CPU…

skills/skills/nemo-mbridge-perf-moe-comm-overlap

Sobreposição de comunicação paralela de especialistas MoE no Megatron Bridge. Abrange sobreposição de dispatch/combine, backends flexíveis de dispatcher e agendamento de wgrad de especialistas.

skills/skills/nemo-mbridge-perf-moe-dispatcher-selection

Choose the right MoE token dispatcher (`alltoall`, DeepEP, or HybridEP) for the hardware, EP degree, and optimization stage. Summarizes patterns from DSV3,…

skills/skills/nemo-mbridge-perf-moe-hardware-configs

Playbooks representativos de treinamento MoE por plataforma de hardware e família de modelo. Resume faixas de throughput arredondadas, padrões de paralelismo e ajustes comuns…

skills/skills/nemo-mbridge-perf-moe-long-context

Orientação de treinamento MoE de contexto longo para o Megatron Bridge. Abrange dimensionamento de CP, recomputação seletiva, escolhas de dispatcher e padrões práticos do DSV3, Qwen3 e…

skills/skills/nemo-mbridge-perf-moe-optimization-workflow

Fluxo de trabalho sistemático para otimização de treinamento MoE no Megatron Bridge, baseado no artigo Megatron-Core MoE. Abrange o framework Three Walls, dobramento paralelo,…

skills/skills/nemo-mbridge-perf-moe-vlm-training

Orientação prática para treinamento de MoE VLMs no Megatron Bridge. Compara abordagens FSDP e 3D-parallel, usando lições práticas do Qwen3-VL, Qwen3-Next e…

skills/skills/nemo-mbridge-perf-parallelism-strategies

Guia operacional para escolher e combinar estratégias de paralelismo no Megatron Bridge, incluindo regras de dimensionamento, mapeamento de topologia de hardware e combinadas…

skills/skills/nemo-mbridge-perf-sequence-packing

Validar e usar sequências empacotadas e treinamento de contexto longo no Megatron-Bridge, distinguindo SFT empacotado offline para LLMs do empacotamento em lote para VLMs, e…

skills/skills/nemo-mbridge-perf-tp-dp-comm-overlap

Guia operacional para habilitar sobreposição de comunicação TP, DP e PP no Megatron-Bridge, incluindo parâmetros de configuração, âncoras de código, armadilhas e verificação.

skills/skills/nemo-mbridge-recipe-recommender

Recomende e personalize receitas do Megatron Bridge para o modelo, número de GPUs e objetivo de treinamento do usuário. Indexa receitas da biblioteca (pretrain/SFT/PEFT) e desempenho…

skills/skills/nemo-mbridge-resiliency

Recursos de resiliência na Megatron Bridge, incluindo tolerância a falhas, detecção de lentidão, reinicialização em processo, preempção e máquina de estado de reexecução.

nemo-relay/skills/nemo-relay-build-plugin

Construir e empacotar comportamento reutilizável do runtime NeMo Relay como um plugin ativado por configuração com validação e registro seguro para rollback.

nemo-relay/skills/nemo-relay-debug-runtime-integration

Depure problemas de integração do NeMo Relay no lado da aplicação, como falhas de carregamento, escopos inativos, eventos ausentes ou problemas de fiação adaptativa/plugin.

skills/skills/nemo-relay-debug-runtime-integration

Use esta skill quando o NeMo Relay estiver instalado ou importado, mas o comportamento do runtime no lado do aplicativo estiver ausente ou incorreto, incluindo falhas de carregamento, inativo…

nemo-relay/skills/nemo-relay-export-atif-trajectories

Exportar atividade do NeMo Relay como trajetórias ATIF para reprodução, análise ou intercâmbio

nemo-relay/skills/nemo-relay-export-openinference

Configure e use a exportação OpenInference do NeMo Relay para backends OTLP que entendem a semântica do OpenInference

nemo-relay/skills/nemo-relay-export-otel

Configure e use a exportação OpenTelemetry do NeMo Relay para backends de rastreamento compatíveis com OTLP

nemo-relay/skills/nemo-relay-get-started

Use esta skill quando usuários iniciantes do NeMo Relay quiserem experimentar o Relay, escolher o quick start suportado menos complexo ou verificar o valor inicial por meio da CLI, a…

skills/skills/nemo-relay-get-started

Use esta skill quando usuários iniciantes do NeMo Relay quiserem experimentar o Relay, escolher o quick start compatível menos complexo ou verificar o valor inicial por meio da CLI, um…