mirror of
https://github.com/PaddlePaddle/FastDeploy.git
synced 2025-10-25 17:40:35 +08:00
ea0bac4061
* add paddle_trt in benchmark * update benchmark in device * update benchmark * update result doc * fixed for CI * update python api_docs * update index.rst * add runtime cpp examples * deal with comments * Update infer_paddle_tensorrt.py * Add runtime quick start * deal with comments * fixed reused_input_tensors&&reused_output_tensors * fixed docs * fixed headpose typo * fixed typo * refactor yolov5 * update model infer * refactor pybind for yolov5 * rm origin yolov5 * fixed bugs * rm cuda preprocess * fixed bugs * fixed bugs * fixed bug * fixed bug * fix pybind * rm useless code * add convert_and_permute * fixed bugs * fixed im_info for bs_predict * fixed bug * add bs_predict for yolov5 * Add runtime test and batch eval * deal with comments * fixed bug * update testcase * fixed batch eval bug * fixed preprocess bug * refactor yolov7 * add yolov7 testcase * rm resize_after_load and add is_scale_up * fixed bug * set multi_label true * optimize rvm preprocess * optimizer rvm postprocess * fixed bug * deal with comments * fixed bugs * add gpu ov for benchmark Co-authored-by: Jason <928090362@qq.com> Co-authored-by: Jason <jiangjiajun@baidu.com>
PaddleDetection模型部署
模型版本说明
支持模型列表
目前FastDeploy支持如下模型的部署
- PP-YOLOE(含PP-YOLOE+)系列模型
- PicoDet系列模型
- PP-YOLO系列模型(含v2)
- YOLOv3系列模型
- YOLOX系列模型
- FasterRCNN系列模型
- MaskRCNN系列模型
- SSD系列模型
导出部署模型
在部署前，需要先将PaddleDetection导出成部署模型，导出步骤参考文档导出模型
注意
- 在导出模型时不要进行NMS的去除操作，正常导出即可
- 导出模型时，不要添加
fuse_normalize=True参数
下载预训练模型
为了方便开发者的测试，下面提供了PaddleDetection导出的各系列模型，开发者可直接下载使用。
其中精度指标来源于PaddleDetection中对各模型的介绍，详情各参考PaddleDetection中的说明。
| 模型 | 参数大小 | 精度 | 备注 |
|---|---|---|---|
| picodet_l_320_coco_lcnet | 23MB | Box AP 42.6% | |
| ppyoloe_crn_l_300e_coco | 200MB | Box AP 51.4% | |
| ppyoloe_plus_crn_m_80e_coco | 83.3MB | Box AP 49.8% | |
| ppyolo_r50vd_dcn_1x_coco | 180MB | Box AP 44.8% | 暂不支持TensorRT |
| ppyolov2_r101vd_dcn_365e_coco | 282MB | Box AP 49.7% | 暂不支持TensorRT |
| yolov3_darknet53_270e_coco | 237MB | Box AP 39.1% | |
| yolox_s_300e_coco | 35MB | Box AP 40.4% | |
| faster_rcnn_r50_vd_fpn_2x_coco | 160MB | Box AP 40.8% | 暂不支持TensorRT |
| mask_rcnn_r50_1x_coco | 128M | Box AP 37.4%, Mask AP 32.8% | 暂不支持TensorRT、ORT |
| ssd_mobilenet_v1_300_120e_voc | 21.7M | Box AP 73.8% | 暂不支持TensorRT、ORT |
| ssd_vgg16_300_240e_voc | 97.7M | Box AP 77.8% | 暂不支持TensorRT、ORT |
| ssdlite_mobilenet_v1_300_coco | 24.4M | 暂不支持TensorRT、ORT |