一:前情提要

我们在跑最新的VMamba模型的时候,有时会遇到

from csm_triton import CrossScanTriton, CrossMergeTriton, CrossScanTriton1b1

的报错。

此处的 csm_triton error 即环境内缺少triton库导致。

二:triton的安装

许多学习者在安装triton时直接使用:

pip install triton

发现寻找不到此包。

原因是triton目前仅有linux版本,只有使用linux的系统的小伙伴可以自由安装。

但是win环境的小伙伴就没办法了吗?

其实早有大神编译了适用于windows系统的triton包,不过安装的时候需要使用到cmake。

这里提供CMake的Win64下载:https://files.pythonhosted.org/packages/1e/82/da0c325e829b9987df30d0252851b68ff2b92ad6ffa675817354abe015ad/cmake-3.28.3-py2.py3-none-win_amd64.whl

可以使用比特彗星下载更快,下载之后使用下列代码安装:

python.exe -m pip install cmake-3.28.3-py2.py3-none-win_amd64.whl

注意:要先cd到安装目录。

大神编译的Win版triton下载:

triton-2.0.0-cp310-cp310-win_amd64.whl_免费高速下载|百度网盘-分享无限制 (baidu.com)

下载完成之后安装:

python.exe -m pip install triton-2.0.0-cp310-cp310-win_amd64.whl

安装完成之后.csm_triton报错就消失啦!

三:尾声

注意:安装建议使用conda环境,与vmamba所在环境安装在一起,不建议安装在主环境。

Logo

欢迎来到由智源人工智能研究院发起的Triton中文社区,这里是一个汇聚了AI开发者、数据科学家、机器学习爱好者以及业界专家的活力平台。我们致力于成为业内领先的Triton技术交流与应用分享的殿堂,为推动人工智能技术的普及与深化应用贡献力量。

更多推荐