run-on-slurm
作成者: nvidia
SLURMクラスタ上で分散Megatron-LMトレーニングジョブを起動する方法。最小限のsbatchスケルトン、torch.distributed.runの環境変数設定などをカバーしています。
npx skills add https://github.com/nvidia/megatron-lm --skill run-on-slurmSLURMクラスタ上で分散Megatron-LMトレーニングジョブを起動する方法。最小限のsbatchスケルトン、torch.distributed.runの環境変数設定などをカバーしています。
npx skills add https://github.com/nvidia/megatron-lm --skill run-on-slurm