环境配置

下载并安装CUDA Toolkit

打开Visual Studio，新建项目。如下图所示，已经包含CUDA编程选项

代码调试

1、打开cu文件的属性页，按下图所示，将Host中的Generate Host Debug Information设置为“是"

2、不可勾选Nsight工具中的Break On Launch 

经过以上两步的设置，即可使cu文件中函数内的断点生效（核函数除外）

以__global__修饰的核函数在GPU上并行执行，断点无法生效。只能用printf将信息打印出来。

# visual studio # windows # ide
Logo
Triton中文社区

欢迎来到由智源人工智能研究院发起的Triton中文社区，这里是一个汇聚了AI开发者、数据科学家、机器学习爱好者以及业界专家的活力平台。我们致力于成为业内领先的Triton技术交流与应用分享的殿堂，为推动人工智能技术的普及与深化应用贡献力量。

更多推荐

torch.device(‘cuda:0‘ if cuda else ‘cpu‘)

# 这个地方的cuda:0 实际上并不是0号GPU，他取决于CUDA_VISIBLE_DEVICES# 然后逻辑GPU和物理GPU有一个对应关系# 如果CUDA_VISIBLE_DEVICES为2,1,3# 那么CUDA:0就是2号GPU， CUDA:1 就是1号GPU CUDA:3 就是3号GPUreturn torch.device('cuda:0' if cuda else 'cpu')..

avatar Triton中文社区
cover

部署stable diffusion 错误torch.cuda.OutOfMemoryError: CUDA out of memory.

avatar Triton中文社区

cuda与python版本对应

CUDA 可以与多个 Python 版本兼容，具体取决于你使用的 CUDA 版本和操作系统。例如，CUDA 10.1 可以与 Python 3.5 - 3.8 版本兼容，而 CUDA 11.0 则可以与 Python 3.5 - 3.9 版本兼容。...

avatar Triton中文社区