run-on-slurm
por nvidia
Cómo lanzar trabajos de entrenamiento distribuido de Megatron-LM en un clúster SLURM. Cubre un esqueleto mínimo de sbatch, configuración de variables de entorno para torch.distributed.run,…
npx skills add https://github.com/nvidia/megatron-lm --skill run-on-slurm