general:
cmake >= 3.1
gcc >= 4.8
NDK >= r14b
模型转换:
python >= 3.5
onnxruntime>=1.1
onnx-simplifier>=0.2.4
protobuf >= 3.0
- 我们统一通过onnx中间格式支持各大训练框架,开源社区维护有很好的各大框架转换为onnx的工具
- tensorflow2onnx: typical usage: python -m tf2onnx.convert --inputs-as-nchw [输入tensor]:0 --graphdef [输入文件].pb --inputs [输入tensor]:0 --outputs [输出tensor]:0 --opset 11 --output [输出文件].onnx
- caffe2onnx
- Mxnet: export onnx model
- Pytorch: EXPORTING A MODEL FROM PYTORCH TO ONNX
- 参照模型测试文档
- 修改项目目录下 /source/tnn/utils/blob_dump_utils.h 中
- #define DUMP_INPUT_BLOB 0 --> #define DUMP_INPUT_BLOB 1,获取每层输入
- #define DUMP_OUTPUT_BLOB 0 --> #define DUMP_OUTPUT_BLOB 1,获取每层输出
- 仅作为调试使用
- 参考profiling文档性能测试
//mac下homebrew安装
//https://zhuanlan.zhihu.com/p/59805070
//https://brew.sh/index_zh-cn
//替换国内镜像的安装脚本