Inference add ONNXRuntime back-end

[heliqi]

PR types

New features

PR changes

Others

Describe

paddle inference增加paddle2onnx、onnxruntime集成

1. 新的onnx推理维不支持旧版的run接口(不会报错，调用返回false并提示)，只实现了新的ZeroCopyRun接口
2. 新增加了4个API接口(c++、c、python、go语言都同步有增加)，用于开启onnxruntime推理、关闭onnxruntime推理、查询开启状态、开启onnxruntime优化。具体API接口为:

 // 开启onnxruntime
void AnalysisConfig::EnableONNXRuntime();
// 判断是否成功开启
bool AnalysisConfig::ONNXRuntimeEnabled();
 // 关闭onnxruntime
void AnalysisConfig::DisableONNXRuntime();
// 开启onnxruntime优化
void AnalysisConfig::EnableORTOptimization();

用户使用例子:

// 创建默认配置对象
paddle_infer::Config config;
// 设置预测模型路径
config.SetModel(FLAGS_model_file, FLAGS_params_file);
// 新增配置选项，启用 ONNX Runtime
config.EnableONNXRuntime();
// 开启onnxruntime优化(也可以不开启，使用onnxrutnime非必选项)
config.EnableORTOptimization();
// 根据 Config 创建预测对象
auto predictor = paddle_infer::CreatePredictor(config);
// 推理
predictor->Run();

[paddle-bot-old]

Thanks for your contribution!
Please wait for the result of CI firstly. See Paddle CI Manual for details.

[jiweibo]

缺失单测和CI，是否能修改PR-CI-Inference流水线，ort默认打开.

后面可以加上去，也在Paddle-Inference-Demo上加一个使用ort的示例

[qili93]

LGTM for CMakeLists.txt

[leiqing1]

麻烦更新下对应API文档。

[heliqi]

麻烦更新下对应API文档。
API文档我等下提一个PR到对应的另一个repo

[Shixiaowei02]

approve for CMakeLists.txt

[winter-wang]

LGTM

[Superjomn]

API 名称修改，可以下个PR改下

[XiaoguangHu01]

LGTM

[heliqi]

麻烦更新下对应API文档。
API文档我等下提一个PR到对应的另一个repo
已提文档PR: PaddlePaddle/Paddle-Inference-Demo#222

[jiangjiajun]

数据拷贝上仍然有优化的空间，下个PR解决 @heliqi

[heliqi]

@jiangjiajun 优化PR: #40561