apps/FastDeploy
1
0
Fork 0
mirror of https://github.com/PaddlePaddle/FastDeploy.git synced 2025-10-07 01:22:59 +08:00
Code Issues Actions 2 Packages Projects Releases Wiki Activity
Files
409c5dc05669b51a8fcc392cd161f24956761491
FastDeploy/docs/cn/faq/rknpu2/rknpu2.md
CoolCola 745d0018fa [DOC]fix death url (#1598) 
fix death url
2023-03-14 10:22:52 +08:00

3.5 KiB
Raw Blame History

English | 中文

RKNPU2概述

安装环境

RKNPU2模型导出只支持在x86Linux平台上进行导出，安装流程请参考RKNPU2模型导出环境配置文档

ONNX模型转换为RKNN模型

ONNX模型不能直接调用RK芯片中的NPU进行运算，需要把ONNX模型转换为RKNN模型，具体流程请查看RKNPU2转换文档

RKNPU2已经支持的模型列表

FastDeploy在RK3588s上进行了测试，测试环境如下:

  • 设备型号: RK3588-s
  • NPU均使用单核进行测试

以下环境测试的速度均为端到端测试速度根据芯片体质的不同，速度会上下有所浮动，仅供参考。

任务场景 模型及其example 模型版本 是否量化 RKNN速度(ms)
Classification ResNet ResNet50_vd 否 33
Detection Picodet Picodet-s 否 112
Detection PaddleDetection Yolov8 yolov8-n 否 100
Detection PPYOLOE ppyoloe-s(int8) 是 141
Detection RKYOLOV5 YOLOV5-S-Relu(int8) 是 57
Detection RKYOLOX yolox-s 是 130
Detection RKYOLOV7 yolov7-tiny 是 58
Segmentation Unet Unet-cityscapes 否 -
Segmentation PP-HumanSegV2Lite portrait(int8) 是 43
Segmentation PP-HumanSegV2Lite human(int8) 是 43
Face Detection SCRFD SCRFD-2.5G-kps-640(int8) 是 42
Face FaceRecognition InsightFace ms1mv3_arcface_r18(int8) 是 12

预编译库下载

为了方便大家进行开发，这里提供1.0.2版本的FastDeploy给大家使用