-
Notifications
You must be signed in to change notification settings - Fork 1.1k
New issue
Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.
By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.
Already on GitHub? Sign in to your account
[cli] add first wenet cli #2047
Conversation
wenetruntime后面准备怎么处理?废弃了还是继续维护 |
继续轻维护,后面慢慢以 wenet 这个包为主,支持更多的开箱即用的功能 |
你们有想支持和增加的功能吗?@Mddct @xingchensong 基于这个开发,速度可以飞起,我记周哥以前提过很多想法 |
@robin1001 @xingchensong 也许可以先加个paraformer 中文的推理支持 |
有个疑惑,为啥要用load jit的方式,而不是直接load ckpt?我看whisper都是直接load ckpt |
都可以。jit 可以自描述,ckpt 需要一个额外的模型描述文件,也就是 train.yaml. |
ckpt 会更灵活一些。 |
get |
如果我给model的每个函数都修饰 @torch.jit.export,那么ckpt和jit在使用上感觉没啥区别了? |
对,形式上没有区别了,jit 仅会导出 forward 自动调用到的函数和@torch.jit.export,并且其中的语法规范要满足 jit 准则。 |
It works! 这个是第一个版本,后续我们可以在这个基础上不断支持新的功能,例如:
等等。
为什么要作纯基于 python 版本的 cli 的工具?因为
最终,在易用性和间接性上,我们期望对标 whisper。