Files
FastDeploy/examples/vision/segmentation/paddleseg
Zheng_Bicheng ce828ecb38 [Backend And DOC] 改进ppseg文档 + 为RKNPU2后端新增对多输入模型的支持 (#491)
* 11-02/14:35
* 新增输入数据format错误判断
* 优化推理过程,减少内存分配次数
* 支持多输入rknn模型
* rknn模型输出shape为三维时,输出将被强制对齐为4纬。现在将直接抹除rknn补充的shape,方便部分对输出shape进行判断的模型进行正确的后处理。

* 11-03/17:25
* 支持导出多输入RKNN模型
* 更新各种文档
* ppseg改用Fastdeploy中的模型进行转换

* 11-03/17:25
* 新增开源头

* 11-03/21:48
* 删除无用debug代码,补充注释
2022-11-04 09:39:23 +08:00
..
2022-10-20 17:47:48 +08:00

PaddleSeg 模型部署

模型版本说明

目前FastDeploy支持如下模型的部署

【注意】如你部署的为PP-MattingPP-HumanMatting以及ModNet请参考Matting模型部署

准备PaddleSeg部署模型

PaddleSeg模型导出请参考其文档说明模型导出

注意

  • PaddleSeg导出的模型包含model.pdmodelmodel.pdiparamsdeploy.yaml三个文件FastDeploy会从yaml文件中获取模型在推理时需要的预处理信息
  • aarch64平台Jetson暂时只支持onnxruntimetensorrt作为后端推理(不支持非固定shape的图片输入即动态输入。因此必须指定--input_shape导出具有固定输入的PaddleSeg模型FastDeploy会在预处理阶段对原图进行resize操作
  • 在使用其他平台Windows、Mac、Linux在导出PaddleSeg模型模型时可指定--input_shape参数(当想采用onnxruntimetensorrt作为后端进行推理)。但是,若输入的预测图片尺寸并不固定,建议使用默认值即不指定该参数同时采用Paddle Inference或者OpenVino作为后端进行推理

下载预训练模型

为了方便开发者的测试下面提供了PaddleSeg导出的部分模型导出方式为不指定--input_shape指定--output_op none),开发者可直接下载使用。

模型 参数文件大小 输入Shape mIoU mIoU (flip) mIoU (ms+flip)
Unet-cityscapes 52MB 1024x512 65.00% 66.02% 66.89%
PP-LiteSeg-T(STDC1)-cityscapes 31MB 1024x512 77.04% 77.73% 77.46%
PP-HumanSegV1-Lite(通用人像分割模型) 543KB 192x192 86.2% - -
PP-HumanSegV2-Lite(通用人像分割模型) 12MB 192x192 92.52% - -
PP-HumanSegV2-Mobile(通用人像分割模型) 29MB 192x192 93.13% - -
PP-HumanSegV1-Server(通用人像分割模型) 103MB 512x512 96.47% - -
Portait-PP-HumanSegV2_Lite(肖像分割模型) 3.6M 256x144 96.63% - -
FCN-HRNet-W18-cityscapes 37MB 1024x512 78.97% 79.49% 79.74%
Deeplabv3-ResNet101-OS8-cityscapes 150MB 1024x512 79.90% 80.22% 80.47%

详细部署文档