1.在多进程代码前填写以下这行代码:
multiprocessing.set_start_method('spawn')
2.若设置后nvidia-smi显示只有一张卡被调用,可考虑将
os.environ["CUDA_VISIBLE_DEVICES"] = current_gpu
换成
torch.cuda.set_device(int(current_gpu))
参考:https://pytorch-cn.readthedocs.io/zh/latest/package_references/torch-cuda/