cuda 检测是否可用

nvcc -V
python
print(torch.__version__)
print(torch.cuda.is_available())
print(torch.cuda.device_count())
print(torch.version.cuda)

版本一致后可以启用GPU,4060 比 7945hx 快 3 倍左右

1、Check CUDA version first: nvcc --version
2、Ensure:
invidia-smi ≥ nvcc --version ≥ Pytorch cudatoolkit version required
3、Test:
$ python

Linux 下源码部署 chattts:
配置好 python3.9+环境

创建空目录 /data/chattts 执行命令 cd /data/chattts && git clone https://github.com/jianchang512/chatTTS-ui .

创建虚拟环境 python3 -m venv venv

激活虚拟环境 source ./venv/bin/activate

安装依赖 pip3 install -r requirements.txt

如果不需要CUDA加速,执行 pip3 install torch torchaudio

如果需要CUDA加速,执行

pip install torch torchaudio --index-url https://download.pytorch.org/whl/cu118

pip install nvidia-cublas-cu11 nvidia-cudnn-cu11

pip install nvidia-cublas-cu12 nvidia-cudnn-cu12
1
2
3
4
另需安装 CUDA11.8+ ToolKit,请自行搜索安装方法 或参考 https://juejin.cn/post/7318704408727519270

执行 python3 app.py 启动,将自动打开浏览器窗口,默认地址 http://127.0.0.1:9966 (注意:默认从 modelscope 魔塔下载模型,不可使用代理下载,请关闭代理)

https://blog.csdn.net/2303_76218115/article/details/139402720

开启python 支持cuda的方法:
conda create --name my_env python=3.10
conda install pytorch torchvision torchaudio pytorch-cuda=12.4 -c pytorch -c nvidia

Logo

欢迎来到由智源人工智能研究院发起的Triton中文社区,这里是一个汇聚了AI开发者、数据科学家、机器学习爱好者以及业界专家的活力平台。我们致力于成为业内领先的Triton技术交流与应用分享的殿堂,为推动人工智能技术的普及与深化应用贡献力量。

更多推荐