关于最新VMamba运行产生.csm_triton错误的解答(或缺失triton包)
使用重新编译之后的win版triton包;使用CMake来编译。
一:前情提要
我们在跑最新的VMamba模型的时候,有时会遇到
from csm_triton import CrossScanTriton, CrossMergeTriton, CrossScanTriton1b1
的报错。
此处的 csm_triton error 即环境内缺少triton库导致。
二:triton的安装
许多学习者在安装triton时直接使用:
pip install triton
发现寻找不到此包。
原因是triton目前仅有linux版本,只有使用linux的系统的小伙伴可以自由安装。
但是win环境的小伙伴就没办法了吗?
其实早有大神编译了适用于windows系统的triton包,不过安装的时候需要使用到cmake。
这里提供CMake的Win64下载:https://files.pythonhosted.org/packages/1e/82/da0c325e829b9987df30d0252851b68ff2b92ad6ffa675817354abe015ad/cmake-3.28.3-py2.py3-none-win_amd64.whl
可以使用比特彗星下载更快,下载之后使用下列代码安装:
python.exe -m pip install cmake-3.28.3-py2.py3-none-win_amd64.whl
注意:要先cd到安装目录。
大神编译的Win版triton下载:
triton-2.0.0-cp310-cp310-win_amd64.whl_免费高速下载|百度网盘-分享无限制 (baidu.com)
下载完成之后安装:
python.exe -m pip install triton-2.0.0-cp310-cp310-win_amd64.whl
安装完成之后.csm_triton报错就消失啦!
三:尾声
注意:安装建议使用conda环境,与vmamba所在环境安装在一起,不建议安装在主环境。
欢迎来到由智源人工智能研究院发起的Triton中文社区,这里是一个汇聚了AI开发者、数据科学家、机器学习爱好者以及业界专家的活力平台。我们致力于成为业内领先的Triton技术交流与应用分享的殿堂,为推动人工智能技术的普及与深化应用贡献力量。
更多推荐
所有评论(0)