run-on-slurm
작성자: nvidia
SLURM 클러스터에서 분산 Megatron-LM 학습 작업을 실행하는 방법. 최소한의 sbatch 스켈레톤, torch.distributed.run을 위한 환경 변수 설정 등을 다룹니다.
npx skills add https://github.com/nvidia/megatron-lm --skill run-on-slurmSLURM 클러스터에서 분산 Megatron-LM 학습 작업을 실행하는 방법. 최소한의 sbatch 스켈레톤, torch.distributed.run을 위한 환경 변수 설정 등을 다룹니다.
npx skills add https://github.com/nvidia/megatron-lm --skill run-on-slurm