run-on-slurm
par nvidia
Comment lancer des tâches d'entraînement distribué Megatron-LM sur un cluster SLURM. Couvre un squelette sbatch minimal, la configuration des variables d'environnement pour torch.distributed.run,…
npx skills add https://github.com/nvidia/megatron-lm --skill run-on-slurm