run-on-slurm
tarafından nvidia
Bir SLURM kümesinde dağıtık Megatron-LM eğitim işlerinin nasıl başlatılacağı. Minimal bir sbatch iskeletini, torch.distributed.run için ortam değişkeni kurulumunu kapsar,…
npx skills add https://github.com/nvidia/megatron-lm --skill run-on-slurm