mirror of
https://github.com/PaddlePaddle/FastDeploy.git
synced 2025-10-06 17:17:14 +08:00

* 11-02/14:35 * 新增输入数据format错误判断 * 优化推理过程,减少内存分配次数 * 支持多输入rknn模型 * rknn模型输出shape为三维时,输出将被强制对齐为4纬。现在将直接抹除rknn补充的shape,方便部分对输出shape进行判断的模型进行正确的后处理。 * 11-03/17:25 * 支持导出多输入RKNN模型 * 更新各种文档 * ppseg改用Fastdeploy中的模型进行转换 * 11-03/17:25 * 新增开源头 * 11-03/21:48 * 删除无用debug代码,补充注释 * 11-04/01:00 * 新增rkpicodet代码 * 11-04/13:13 * 提交编译缺少的文件 * 11-04/14:03 * 更新安装文档 * 11-04/14:21 * 更新picodet_s配置文件 * 11-04/14:21 * 更新picodet自适应输出结果 * 11-04/14:21 * 更新文档 * * 更新配置文件 * * 修正配置文件 * * 添加缺失的python文件 * * 修正文档 * * 修正代码格式问题0 * * 按照要求修改 * * 按照要求修改 * * 按照要求修改 * * 按照要求修改 * * 按照要求修改 * test
PaddleDetection C++部署示例
本目录下提供infer_xxxxx.cc
快速完成PPDetection模型在Rockchip板子上上通过二代NPU加速部署的示例。
在部署前,需确认以下两个步骤:
- 软硬件环境满足要求
- 根据开发环境,下载预编译部署库或者从头编译FastDeploy仓库
以上步骤请参考RK2代NPU部署库编译实现
生成基本目录文件
该例程由以下几个部分组成
.
├── CMakeLists.txt
├── build # 编译文件夹
├── image # 存放图片的文件夹
├── infer_cpu_npu.cc
├── infer_cpu_npu.h
├── main.cc
├── model # 存放模型文件的文件夹
└── thirdpartys # 存放sdk的文件夹
首先需要先生成目录结构
mkdir build
mkdir images
mkdir model
mkdir thirdpartys
编译
编译并拷贝SDK到thirdpartys文件夹
请参考RK2代NPU部署库编译仓库编译SDK,编译完成后,将在build目录下生成 fastdeploy-0.0.3目录,请移动它至thirdpartys目录下.
拷贝模型文件,以及配置文件至model文件夹
在Paddle动态图模型 -> Paddle静态图模型 -> ONNX模型的过程中,将生成ONNX文件以及对应的yaml配置文件,请将配置文件存放到model文件夹内。 转换为RKNN后的模型文件也需要拷贝至model。
准备测试图片至image文件夹
wget https://gitee.com/paddlepaddle/PaddleDetection/raw/release/2.4/demo/000000014439.jpg
cp 000000014439.jpg ./images
编译example
cd build
cmake ..
make -j8
make install
运行例程
cd ./build/install
./rknpu_test