run-on-slurm
por nvidia
Como lançar jobs de treinamento distribuído do Megatron-LM em um cluster SLURM. Abrange um esqueleto mínimo de sbatch, configuração de variáveis de ambiente para torch.distributed.run,…
npx skills add https://github.com/nvidia/megatron-lm --skill run-on-slurm