-
Notifications
You must be signed in to change notification settings - Fork 485
New issue
Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.
By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.
Already on GitHub? Sign in to your account
[Feature] ascend 310p上执行图模式 #3119
Comments
目前310P还在支持中,请问你这里的CANN用的什么版本 |
图模式下我们只测试3.10/3.9/3.8的情况,由于python版本会影响到图模式的抓图过程,请暂时使用3.10来跑。 |
目前用的CANN版本是8.0.0.alpha001 |
嗯嗯好的,非常感谢 |
CANN 8.0.0.alpha001还没有测试,我们目前使用的是8.0.RC3.beta1,改用Python3.10后还有问题吗? |
是的,依旧存在问题,conda环境如下
报错信息如下
|
我们这里没有复现这个问题,可以通过以下环境变量打开日志看一下
|
Motivation
在ascend 310p上创建以下环境torch=2.3.1+cpu、torch-npu=2.3.1.post4
LMdeploy和dlinfer代码分别使用DeepLink-org:support_310P和yao-fengchen:support_310P,
ascend 310p上进行图模式的推理任务时
存在以下问题
在定义数据类时,某个字段使用了可变对象作为默认值,而Python的dataclass不允许这样做。根据Python的dataclass规范,如果字段的默认值是可变对象(比如列表、字典或自定义类的实例),应该使用
default_factory
来生成默认值,而不是直接赋值。修改对应代码为下图所示,并执行source /usr/local/Ascend/nnal/atb/set_env.sh出现了如下错误
这个errcode:3这个报错和issues2745中最后的报错一样。请问310P目前是否具有支持图模式的计划
Related resources
No response
Additional context
No response
The text was updated successfully, but these errors were encountered: