Files
FastDeploy/examples/runtime
Jason 0dd9ecee65 Optimize ocr system code (#209)
* Support PPYOLOE plus model

* Optimize ocr system code

* modify example code

* fix patchelf of openvino

* optimize demo code of ocr

* remove debug code

* update demo code of ocr

Co-authored-by: Jack Zhou <zhoushunjie@baidu.com>
2022-09-14 09:46:03 +08:00
..
2022-09-14 09:46:03 +08:00
2022-09-14 09:46:03 +08:00

FastDeploy Runtime推理示例

示例代码 编程语言 说明
python/infer_paddle_paddle_inference.py Python paddle模型通过paddle inference在cpu/gpu上的推理
python/infer_paddle_tensorrt.py Python paddle模型通过tensorrt在gpu上的推理
python/infer_paddle_openvino.py Python paddle模型通过openvino在cpu上的推理
python/infer_paddle_onnxruntime.py Python paddle模型通过onnx runtime在cpu/gpu上的推理
python/infer_onnx_openvino.py Python onnx模型通过openvino在cpu上的推理
python/infer_onnx_tensorrt.py Python onnx模型通过tensorrt在gpu上的推理
cpp/infer_paddle_paddle_inference.cc C++ paddle模型通过paddle inference在cpu/gpu上的推理
cpp/infer_paddle_tensorrt.cc C++ paddle模型通过tensorrt在gpu上的推理
cpp/infer_paddle_openvino.cc C++ paddle模型通过openvino在cpu上的推理
cpp/infer_paddle_onnxruntime.cc C++ paddle模型通过onnx runtime在cpu/gpu上的推理
cpp/infer_onnx_openvino.cc C++ onnx模型通过openvino在cpu上的推理
cpp/infer_onnx_tensorrt.cc C++ onnx模型通过tensorrt在gpu上的推理