mirror of
https://github.com/PaddlePaddle/FastDeploy.git
synced 2025-12-24 13:28:13 +08:00
[Doc] Update YOLOv5 doc for TIMVX NPU (#1041)
* update yolov5 doc for TIMVX * update doc * update doc * update doc
This commit is contained in:
@@ -4,12 +4,31 @@
|
||||
|
||||
## 部署准备
|
||||
### FastDeploy 交叉编译环境准备
|
||||
- 1. 软硬件环境满足要求,以及交叉编译环境的准备,请参考:[FastDeploy 交叉编译环境准备](../../../../../../docs/cn/build_and_install/a311d.md#交叉编译环境搭建)
|
||||
1. 软硬件环境满足要求,以及交叉编译环境的准备,请参考:[FastDeploy 交叉编译环境准备](../../../../../../docs/cn/build_and_install/a311d.md#交叉编译环境搭建)
|
||||
|
||||
### 量化模型准备
|
||||
- 1. 用户可以直接使用由 FastDeploy 提供的量化模型进行部署。
|
||||
- 2. 用户可以使用 FastDeploy 提供的[一键模型自动化压缩工具](../../../../../../tools/common_tools/auto_compression/),自行进行模型量化, 并使用产出的量化模型进行部署。
|
||||
- 更多量化相关相关信息可查阅[模型量化](../../quantize/README.md)
|
||||
可以直接使用由 FastDeploy 提供的量化模型进行部署,也可以按照如下步骤准备量化模型:
|
||||
1. 按照 [YOLOv5](https://github.com/ultralytics/yolov5/releases/tag/v6.1) 官方导出方式导出 ONNX 模型,或者直接使用如下命令下载
|
||||
```bash
|
||||
wget https://paddle-slim-models.bj.bcebos.com/act/yolov5s.onnx
|
||||
```
|
||||
2. 准备 300 张左右量化用的图片,也可以使用如下命令下载我们准备好的数据。
|
||||
```bash
|
||||
wget https://bj.bcebos.com/fastdeploy/models/COCO_val_320.tar.gz
|
||||
tar -xf COCO_val_320.tar.gz
|
||||
```
|
||||
3. 使用 FastDeploy 提供的[一键模型自动化压缩工具](../../../../../../tools/common_tools/auto_compression/),自行进行模型量化, 并使用产出的量化模型进行部署。
|
||||
```bash
|
||||
fastdeploy compress --config_path=./configs/detection/yolov5s_quant.yaml --method='PTQ' --save_dir='./yolov5s_ptq_model_new/'
|
||||
```
|
||||
4. YOLOv5 模型需要异构计算,异构计算文件可以参考:[异构计算](./../../../../../../docs/cn/faq/heterogeneous_computing_on_timvx_npu.md),由于 FastDeploy 已经提供了 YOLOv5 模型,可以先测试我们提供的异构文件,验证精度是否符合要求。
|
||||
```bash
|
||||
# 先下载我们提供的模型,解压后将其中的 subgraph.txt 文件拷贝到新量化的模型目录中
|
||||
wget https://bj.bcebos.com/fastdeploy/models/yolov5s_ptq_model.tar.gz
|
||||
tar -xvf yolov5s_ptq_model.tar.gz
|
||||
```
|
||||
|
||||
更多量化相关相关信息可查阅[模型量化](../../quantize/README.md)
|
||||
|
||||
## 在 A311D 上部署量化后的 YOLOv5 检测模型
|
||||
请按照以下步骤完成在 A311D 上部署 YOLOv5 量化模型:
|
||||
|
||||
Reference in New Issue
Block a user