Skills Nvidia

skills/skills/nemo-evaluator-plugin

Используйте при работе с CLI плагина Evaluator, заданиями, спецификациями на основе SDK, типами метрик или навыками Evaluator, принадлежащими плагину.

nemo-fabric/skills/nemo-fabric-integrate

Используйте этот навык при интеграции NeMo Fabric в потребительское приложение, сервис, среду оценки или платформу с помощью типизированного Python SDK — переводя…

skills/skills/nemo-mbridge-mlm-bridge-training

Запуск обучения Megatron-LM (MLM) и Megatron Bridge с использованием тестовых или реальных данных. Включает тестирование корреляции, доступные рецепты и примеры для нескольких GPU.

skills/skills/nemo-mbridge-multi-node-slurm

Преобразует одноузловые скрипты в многоузловые задания Slurm sbatch и отлаживает типичные многоузловые сбои. Охватывает подходы srun-native и uv run torch.distributed,…

skills/skills/nemo-mbridge-perf-activation-recompute

Проверка и использование выборочного и полного пересчета активаций в Megatron Bridge для снижения использования памяти GPU за счет дополнительных вычислений.

skills/skills/nemo-mbridge-perf-cpu-offloading

Проверка и использование выгрузки на ЦП в Megatron Bridge, включая выгрузку активаций на уровне слоёв и частичную выгрузку состояний оптимизатора с…

skills/skills/nemo-mbridge-perf-cuda-graphs

Проверка и использование захвата графов CUDA в Megatron Bridge, включая локальные полные итерационные графы и графы с областью действия Transformer Engine для внимания, MLP и MoE…

skills/skills/nemo-mbridge-perf-expert-parallel-overlap

Проверка и использование перекрытия экспертно-параллельной связи в Megatron-Bridge, включая overlap_moe_expert_parallel_comm, delay_wgrad_compute и flex…

skills/skills/nemo-mbridge-perf-hierarchical-context-parallel

Эксплуатационное руководство по включению иерархического параллелизма контекста в Megatron-Bridge, включая параметры конфигурации, привязки к коду, подводные камни и проверку.

skills/skills/nemo-mbridge-perf-megatron-fsdp

Эксплуатационное руководство по включению Megatron FSDP в Megatron-Bridge, включая конфигурационные параметры, привязки к коду, типичные ошибки и проверку.

skills/skills/nemo-mbridge-perf-memory-tuning

Техники снижения пиковой памяти GPU в Megatron Bridge — расширяемые сегменты, повторный сбор входных данных PEFT + SP, изменение параллелизма, пересчет активаций, CPU…

skills/skills/nemo-mbridge-perf-moe-comm-overlap

Перекрытие экспертно-параллельной коммуникации MoE в Megatron Bridge. Включает перекрытие диспетчеризации/объединения, бэкенды гибкого диспетчера и планирование wgrad экспертов.

skills/skills/nemo-mbridge-perf-moe-dispatcher-selection

Choose the right MoE token dispatcher (`alltoall`, DeepEP, or HybridEP) for the hardware, EP degree, and optimization stage. Summarizes patterns from DSV3,…

skills/skills/nemo-mbridge-perf-moe-hardware-configs

Репрезентативные сценарии обучения MoE по аппаратным платформам и семействам моделей. Содержит сводные диапазоны пропускной способности, шаблоны параллелизма и общие настройки…

skills/skills/nemo-mbridge-perf-moe-long-context

Руководство по обучению MoE с длинным контекстом для Megatron Bridge. Охватывает выбор размера CP, селективный пересчёт, варианты диспетчера и практические паттерны из DSV3, Qwen3 и…

skills/skills/nemo-mbridge-perf-moe-optimization-workflow

Систематический рабочий процесс для оптимизации обучения MoE в Megatron Bridge, основанный на статье Megatron-Core MoE. Охватывает фреймворк Three Walls, параллельное сворачивание,…

skills/skills/nemo-mbridge-perf-moe-vlm-training

Практическое руководство по обучению MoE VLM в Megatron Bridge. Сравниваются подходы FSDP и 3D-параллелизма с использованием обобщённых уроков из Qwen3-VL, Qwen3-Next и…

skills/skills/nemo-mbridge-perf-parallelism-strategies

Эксплуатационное руководство по выбору и комбинированию стратегий параллелизма в Megatron Bridge, включая правила определения размеров, отображение топологии оборудования и комбинированные…

skills/skills/nemo-mbridge-perf-sequence-packing

Проверка и использование упакованных последовательностей и обучения с длинным контекстом в Megatron-Bridge, различие между офлайн-упаковкой SFT для LLM и внутрипакетной упаковкой для VLM, и…

skills/skills/nemo-mbridge-perf-tp-dp-comm-overlap

Эксплуатационное руководство по включению перекрытия коммуникаций TP, DP и PP в Megatron-Bridge, включая конфигурационные параметры, привязки к коду, подводные камни и верификацию.

skills/skills/nemo-mbridge-recipe-recommender

Рекомендовать и настраивать рецепты Megatron Bridge под модель пользователя, количество GPU и цель обучения. Индексирует библиотечные рецепты (pretrain/SFT/PEFT) и производительность…

skills/skills/nemo-mbridge-resiliency

Функции отказоустойчивости в Megatron Bridge, включая устойчивость к сбоям, обнаружение отстающих узлов, перезапуск в процессе, вытеснение и автомат состояний повторного запуска.

nemo-relay/skills/nemo-relay-build-plugin

Сборка и упаковка переиспользуемого поведения среды выполнения NeMo Relay в виде подключаемого модуля, активируемого конфигурацией, с проверкой и откатобезопасной регистрацией

nemo-relay/skills/nemo-relay-debug-runtime-integration

Отладка проблем интеграции NeMo Relay на стороне приложения, таких как ошибки загрузки, неактивные области, отсутствующие события или проблемы с адаптивной/плагинной разводкой

skills/skills/nemo-relay-debug-runtime-integration

Используйте этот навык, когда NeMo Relay установлен или импортирован, но поведение приложения на стороне выполнения отсутствует или некорректно, включая ошибки загрузки, неактивные…

nemo-relay/skills/nemo-relay-export-atif-trajectories

Экспорт активности NeMo Relay в виде ATIF-траекторий для воспроизведения, анализа или обмена

nemo-relay/skills/nemo-relay-export-openinference

Настройка и использование экспорта NeMo Relay OpenInference для OTLP-бэкендов, поддерживающих семантику OpenInference

nemo-relay/skills/nemo-relay-export-otel

Настройка и использование экспорта NeMo Relay OpenTelemetry для совместимых с OTLP бэкендов трассировки

nemo-relay/skills/nemo-relay-get-started

Используйте этот навык, когда пользователи NeMo Relay, впервые использующие Relay, хотят попробовать Relay, выбрать наименее сложный поддерживаемый быстрый старт или проверить первоначальную ценность через CLI, а…

skills/skills/nemo-relay-get-started

Используйте этот навык, когда пользователи NeMo Relay впервые хотят попробовать Relay, выбрать наименее сложный поддерживаемый быстрый старт или проверить первоначальную ценность через CLI, а…