os.environ['SLURM_PROCID']
时间: 2023-10-10 17:15:05 浏览: 118
根据引用\[1\]中提到的内容,'SLURM_PROCID'是一个环境变量,可以用作全局rank。在使用torch.distributed.launch启动程序时,会自动传入local_rank参数,所以我们可以在程序中使用os.environ\['SLURM_PROCID'\]来获取全局rank。
#### 引用[.reference_title]
- *1* [os.environ的keys用法补充](https://blog.csdn.net/bb_sy_w/article/details/121181637)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v3^insert_chatgpt"}} ] [.reference_item]
- *2* *3* [Pytorch分布式训练/多卡训练(二) —— Data Parallel并行(DDP)(2.1)(基本概念&代码框架)](https://blog.csdn.net/hxxjxw/article/details/119785012)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v3^insert_chatgpt"}} ] [.reference_item]
[ .reference_list ]