背景:pytorch 2.0.0

我定义的是local_rank,而报错显示的是local-rank。这不是我项目的问题。搜了一下发现应该是torch版本问题。

有看到其他方法说: 降低版本为1.13 可以解决。但是我不想降版本。搜了一下也解决了。

torchrun 替换掉python -m torch.distributed.launch 

通过这种方法解决了这一问题。

Logo

开放原子开发者工作坊旨在鼓励更多人参与开源活动,与志同道合的开发者们相互交流开发经验、分享开发心得、获取前沿技术趋势。工作坊有多种形式的开发者活动,如meetup、训练营等,主打技术交流,干货满满,真诚地邀请各位开发者共同参与!

更多推荐