Skills Nvidia

skills/skills/nemo-evaluator-plugin

ใช้เมื่อทำงานกับ CLI ของปลั๊กอิน Evaluator, งาน, สเปกที่รองรับ SDK, ประเภทเมตริก หรือทักษะ Evaluator ที่เป็นของปลั๊กอิน

nemo-fabric/skills/nemo-fabric-integrate

ใช้ทักษะนี้เมื่อต้องผสานรวม NeMo Fabric เข้ากับแอปพลิเคชันสำหรับผู้บริโภค บริการ ชุดประเมินผล หรือแพลตฟอร์มผ่าน Python SDK แบบมีชนิดข้อมูล — การแปล…

skills/skills/nemo-mbridge-mlm-bridge-training

รันการฝึก Megatron-LM (MLM) และ Megatron Bridge ด้วยข้อมูลจำลองหรือข้อมูลจริง ครอบคลุมการทดสอบความสัมพันธ์ สูตรที่มีให้ และตัวอย่างหลาย GPU

skills/skills/nemo-mbridge-multi-node-slurm

แปลงสคริปต์โหนดเดียวเป็นงาน Slurm sbatch แบบหลายโหนด และแก้ไขข้อผิดพลาดทั่วไปของระบบหลายโหนด ครอบคลุมแนวทาง srun-native และ uv run torch.distributed,…

skills/skills/nemo-mbridge-perf-activation-recompute

ตรวจสอบและใช้การคำนวณซ้ำแบบเลือกและแบบเต็มของการเปิดใช้งานใน Megatron Bridge เพื่อลดการใช้หน่วยความจำ GPU โดยแลกกับการคำนวณเพิ่มเติม

skills/skills/nemo-mbridge-perf-cpu-offloading

ตรวจสอบและใช้การถ่ายโอนภาระงาน CPU ใน Megatron Bridge รวมถึงการถ่ายโอนการเปิดใช้งานระดับเลเยอร์และการถ่ายโอนสถานะตัวปรับให้เหมาะสมแบบเศษส่วนด้วย...

skills/skills/nemo-mbridge-perf-cuda-graphs

ตรวจสอบและใช้การจับภาพกราฟ CUDA ใน Megatron Bridge รวมถึงกราฟแบบเต็มรอบในเครื่องและกราฟแบบมีขอบเขตของ Transformer Engine สำหรับ attention, MLP และ MoE…

skills/skills/nemo-mbridge-perf-expert-parallel-overlap

ตรวจสอบและใช้การซ้อนทับการสื่อสารแบบขนานผู้เชี่ยวชาญ MoE ใน Megatron-Bridge รวมถึง overlap_moe_expert_parallel_comm, delay_wgrad_compute และ flex…

skills/skills/nemo-mbridge-perf-hierarchical-context-parallel

คู่มือการดำเนินงานสำหรับการเปิดใช้งานการขนานบริบทแบบลำดับชั้นใน Megatron-Bridge รวมถึงปุ่มปรับแต่งการกำหนดค่า จุดยึดโค้ด ข้อผิดพลาดที่พบบ่อย และการตรวจสอบ

skills/skills/nemo-mbridge-perf-megatron-fsdp

คู่มือการดำเนินงานสำหรับการเปิดใช้งาน Megatron FSDP ใน Megatron-Bridge รวมถึงปุ่มปรับแต่งการกำหนดค่า จุดยึดโค้ด ข้อผิดพลาดที่พบบ่อย และการตรวจสอบ

skills/skills/nemo-mbridge-perf-memory-tuning

เทคนิคสำหรับลดหน่วยความจำ GPU สูงสุดใน Megatron Bridge — ส่วนที่ขยายได้, PEFT + SP การรวบรวมอินพุตใหม่, การปรับขนาดความขนาน, การคำนวณซ้ำของแอคติเวชัน, CPU…

skills/skills/nemo-mbridge-perf-moe-comm-overlap

การซ้อนทับการสื่อสารแบบขนานผู้เชี่ยวชาญ MoE ใน Megatron Bridge ครอบคลุมการซ้อนทับ dispatch/combine, แบ็กเอนด์ flex dispatcher และการจัดตาราง wgrad ผู้เชี่ยวชาญ

skills/skills/nemo-mbridge-perf-moe-dispatcher-selection

เลือกตัวจัดส่งโทเค็น MoE ที่เหมาะสม (alltoall, DeepEP หรือ HybridEP) สำหรับฮาร์ดแวร์ ระดับ EP และขั้นตอนการปรับแต่งประสิทธิภาพ สรุปรูปแบบจาก DSV3,…

skills/skills/nemo-mbridge-perf-moe-hardware-configs

คู่มือการฝึกอบรม MoE ที่เป็นตัวแทนตามแพลตฟอร์มฮาร์ดแวร์และตระกูลโมเดล สรุปแบนด์วิดท์ปริมาณงานโดยประมาณ รูปแบบการขนาน และการปรับแต่งทั่วไป…

skills/skills/nemo-mbridge-perf-moe-long-context

คำแนะนำการฝึกอบรม MoE แบบบริบทยาวสำหรับ Megatron Bridge ครอบคลุมการกำหนดขนาด CP การคำนวณซ้ำแบบเลือก ตัวเลือกตัวจัดส่ง และรูปแบบเชิงปฏิบัติจาก DSV3, Qwen3 และ…

skills/skills/nemo-mbridge-perf-moe-optimization-workflow

ขั้นตอนการทำงานอย่างเป็นระบบสำหรับการปรับแต่งการฝึก MoE ใน Megatron Bridge ตามเอกสาร Megatron-Core MoE ครอบคลุมกรอบงาน Three Walls การพับแบบขนาน…

skills/skills/nemo-mbridge-perf-moe-vlm-training

คำแนะนำเชิงปฏิบัติสำหรับการฝึกอบรม MoE VLM ใน Megatron Bridge เปรียบเทียบแนวทาง FSDP และ 3D-parallel โดยใช้บทเรียนที่สรุปจาก Qwen3-VL, Qwen3-Next และ…

skills/skills/nemo-mbridge-perf-parallelism-strategies

คู่มือการปฏิบัติงานสำหรับการเลือกและรวมกลยุทธ์การทำงานแบบขนานใน Megatron Bridge รวมถึงกฎการกำหนดขนาด การแมปโครงสร้างฮาร์ดแวร์ และการรวม…

skills/skills/nemo-mbridge-perf-sequence-packing

ตรวจสอบและใช้ลำดับที่บรรจุและการฝึกอบรมบริบทระยะยาวใน Megatron-Bridge โดยแยกความแตกต่างระหว่างการบรรจุ SFT แบบออฟไลน์สำหรับ LLMs กับการบรรจุแบบในแบตช์สำหรับ VLMs และ...

skills/skills/nemo-mbridge-perf-tp-dp-comm-overlap

คู่มือการปฏิบัติงานสำหรับการเปิดใช้งานการซ้อนทับการสื่อสาร TP, DP และ PP ใน Megatron-Bridge รวมถึงปุ่มกำหนดค่า จุดยึดโค้ด ข้อผิดพลาดที่พบบ่อย และการตรวจสอบ

skills/skills/nemo-mbridge-recipe-recommender

แนะนำและปรับแต่งสูตร Megatron Bridge สำหรับโมเดล จำนวน GPU และเป้าหมายการฝึกของผู้ใช้ จัดทำดัชนีสูตรในคลัง (pretrain/SFT/PEFT) และประสิทธิภาพ…

skills/skills/nemo-mbridge-resiliency

ฟีเจอร์ความยืดหยุ่นใน Megatron Bridge รวมถึงการทนต่อข้อผิดพลาด การตรวจจับตัวช้า การรีสตาร์ทภายในกระบวนการ การแทรกแซง และเครื่องสถานะการรันซ้ำ

nemo-relay/skills/nemo-relay-build-plugin

สร้างและแพ็กเกจพฤติกรรมรันไทม์ของ NeMo Relay ที่นำกลับมาใช้ใหม่ได้เป็นปลั๊กอินที่เปิดใช้งานผ่านการกำหนดค่า พร้อมการตรวจสอบความถูกต้องและการลงทะเบียนที่ปลอดภัยต่อการย้อนกลับ

nemo-relay/skills/nemo-relay-debug-runtime-integration

แก้ไขปัญหาการรวมระบบ NeMo Relay ฝั่งแอปพลิเคชัน เช่น ความล้มเหลวในการโหลด ขอบเขตที่ไม่ทำงาน เหตุการณ์ที่ขาดหาย หรือปัญหาการเชื่อมต่อแบบปรับตัว/ปลั๊กอิน

skills/skills/nemo-relay-debug-runtime-integration

ใช้สกิลนี้เมื่อมีการติดตั้งหรือนำเข้า NeMo Relay แต่พฤติกรรมรันไทม์ฝั่งแอปพลิเคชันขาดหายไปหรือไม่ถูกต้อง รวมถึงความล้มเหลวในการโหลด การไม่ทำงาน…

nemo-relay/skills/nemo-relay-export-atif-trajectories

ส่งออกกิจกรรม NeMo Relay เป็นเส้นทาง ATIF สำหรับการเล่นซ้ำ วิเคราะห์ หรือแลกเปลี่ยน

nemo-relay/skills/nemo-relay-export-openinference

กำหนดค่าและใช้การส่งออก NeMo Relay OpenInference สำหรับแบ็กเอนด์ OTLP ที่เข้าใจความหมายของ OpenInference

nemo-relay/skills/nemo-relay-export-otel

กำหนดค่าและใช้การส่งออก NeMo Relay OpenTelemetry สำหรับแบ็กเอนด์การติดตามที่เข้ากันได้กับ OTLP

nemo-relay/skills/nemo-relay-get-started

ใช้ทักษะนี้เมื่อผู้ใช้ NeMo Relay ครั้งแรกต้องการลองใช้ Relay เลือกตัวเลือกเริ่มต้นด่วนที่ซับซ้อนน้อยที่สุด หรือตรวจสอบคุณค่าเบื้องต้นผ่าน CLI, a…

skills/skills/nemo-relay-get-started

ใช้ทักษะนี้เมื่อผู้ใช้ NeMo Relay ครั้งแรกต้องการลองใช้ Relay เลือกตัวเลือก quick start ที่ซับซ้อนน้อยที่สุด หรือตรวจสอบคุณค่าเบื้องต้นผ่าน CLI, a…