显卡云自带CUDA版本为12.2
但访问https://download.pytorch.org/whl/cu122/torch_stable.html就会发现pytorch并没有支持此版本的CUDA
但是支持CUDA12.1的pytorch也可以支持CUDA12.2(网上说CUDA12.3也支持)
执行
pip install torch torchvision torchaudio -f https://download.pytorch.org/whl/cu121/torch_stable.html
来安装支持CUDA12.1的torch
检查
创建一个.py文件,内容为:
import torch
print(torch.cuda.is_available())
运行它,如果返回True,则说明PyTorch已成功启用CUDA支持
如果返回False,那么重装一下torch或重启一下服务器应该就好了