本人环境:

cuda 11.4

由于之前安装pytorch版本没有匹配,在此环境,将模型通过.cuda()往GPU上部署的时候,发现程序一直出不来。

很多人都遇到过类似问题,参考:CUDA版本11.4,pytorch应该下哪个版本的? - 知乎

python - Pytorch get stuck at .to(‘cuda’) or .cuda() - Stack Overflowicon-default.png?t=LA92https://stackoverflow.com/questions/57566057/pytorch-get-stuck-at-to-cuda-or-cuda nn.DataParallel(model).cuda() stuck - PyTorch Forumsicon-default.png?t=LA92https://discuss.pytorch.org/t/nn-dataparallel-model-cuda-stuck/8085

最后发现是由于pytorch版本跟cuda版本不匹配,pytorch官网最新支持cuda11.3

最后尝试将pytorch更新到最新版本11.3,问题得以解决。暂时先这样用着。 

 

Logo

欢迎来到由智源人工智能研究院发起的Triton中文社区,这里是一个汇聚了AI开发者、数据科学家、机器学习爱好者以及业界专家的活力平台。我们致力于成为业内领先的Triton技术交流与应用分享的殿堂,为推动人工智能技术的普及与深化应用贡献力量。

更多推荐