mirror of
https://github.com/PaddlePaddle/FastDeploy.git
synced 2025-10-06 00:57:33 +08:00
4ffcfbe726
* 10-29/14:05 * 新增cmake * 新增rknpu2 backend * 10-29/14:43 * Runtime fd_type新增RKNPU代码 * 10-29/15:02 * 新增ppseg RKNPU2推理代码 * 10-29/15:46 * 新增ppseg RKNPU2 cpp example代码 * 10-29/15:51 * 新增README文档 * 10-29/15:51 * 按照要求修改部分注释以及变量名称 * 10-29/15:51 * 修复重命名之后，cc文件中的部分代码还用旧函数名的bug * 10-29/22:32 * str(Device::NPU)将输出NPU而不是UNKOWN * 修改runtime文件中的注释格式 * 新增Building Summary ENABLE_RKNPU2_BACKEND输出 * pybind新增支持rknpu2 * 新增python编译选项 * 新增PPSeg Python代码 * 新增以及更新各种文档 * 10-30/14:11 * 尝试修复编译cuda时产生的错误 * 10-30/19:27 * 修改CpuName和CoreMask层级 * 修改ppseg rknn推理层级 * 图片将移动到网络进行下载 * 10-30/19:39 * 更新文档 * 10-30/19:39 * 更新文档 * 更新ppseg rknpu2 example中的函数命名方式 * 更新ppseg rknpu2 example为一个cc文件 * 修复disable_normalize_and_permute部分的逻辑错误 * 移除rknpu2初始化时的无用参数 * 10-30/19:39 * 尝试重置python代码 * 10-30/10:16 * rknpu2_config.h文件不再包含rknn_api头文件防止出现导入错误的问题 * 10-31/14:31 * 修改pybind，支持最新的rknpu2 backends * 再次支持ppseg python推理 * 移动cpuname 和 coremask的层级 * 10-31/15:35 * 尝试修复rknpu2导入错误 * 10-31/19:00 * 新增RKNPU2模型导出代码以及其对应的文档 * 更新大量文档错误 * 10-31/19:00 * 现在编译完fastdeploy仓库后无需重新设置RKNN2_TARGET_SOC * 10-31/19:26 * 修改部分错误文档 * 10-31/19:26 * 修复错误删除的部分 * 修复各种错误文档 * 修复FastDeploy.cmake在设置RKNN2_TARGET_SOC错误时，提示错误的信息 * 修复rknpu2_backend.cc中存在的中文注释 * 10-31/20:45 * 删除无用的注释 * 10-31/20:45 * 按照要求修改Device::NPU为Device::RKNPU，硬件将共用valid_hardware_backends * 删除无用注释以及debug代码 * 11-01/09:45 * 更新变量命名方式 * 11-01/10:16 * 修改部分文档，修改函数命名方式 Co-authored-by: Jason <jiangjiajun@baidu.com>
84 lines
2.3 KiB
C++
84 lines
2.3 KiB
C++
#include <iostream>
|
|
#include <string>
|
|
#include "fastdeploy/vision.h"
|
|
|
|
void InferHumanPPHumansegv2Lite(const std::string& device = "cpu");
|
|
|
|
int main() {
|
|
InferHumanPPHumansegv2Lite("npu");
|
|
return 0;
|
|
}
|
|
|
|
fastdeploy::RuntimeOption GetOption(const std::string& device) {
|
|
auto option = fastdeploy::RuntimeOption();
|
|
if (device == "npu") {
|
|
option.UseRKNPU2();
|
|
} else {
|
|
option.UseCpu();
|
|
}
|
|
return option;
|
|
}
|
|
|
|
fastdeploy::ModelFormat GetFormat(const std::string& device) {
|
|
auto format = fastdeploy::ModelFormat::ONNX;
|
|
if (device == "npu") {
|
|
format = fastdeploy::ModelFormat::RKNN;
|
|
} else {
|
|
format = fastdeploy::ModelFormat::ONNX;
|
|
}
|
|
return format;
|
|
}
|
|
|
|
std::string GetModelPath(std::string& model_path, const std::string& device) {
|
|
if (device == "npu") {
|
|
model_path += "rknn";
|
|
} else {
|
|
model_path += "onnx";
|
|
}
|
|
return model_path;
|
|
}
|
|
|
|
void InferHumanPPHumansegv2Lite(const std::string& device) {
|
|
std::string model_file =
|
|
"./model/human_pp_humansegv2_lite_192x192_pretrained_3588/"
|
|
"human_pp_humansegv2_lite_192x192_pretrained_3588.";
|
|
std::string params_file;
|
|
std::string config_file =
|
|
"./model/human_pp_humansegv2_lite_192x192_pretrained_3588/deploy.yaml";
|
|
|
|
fastdeploy::RuntimeOption option = GetOption(device);
|
|
fastdeploy::ModelFormat format = GetFormat(device);
|
|
model_file = GetModelPath(model_file, device);
|
|
auto model = fastdeploy::vision::segmentation::PaddleSegModel(
|
|
model_file, params_file, config_file, option, format);
|
|
|
|
if (!model.Initialized()) {
|
|
std::cerr << "Failed to initialize." << std::endl;
|
|
return;
|
|
}
|
|
auto image_file =
|
|
"./images/portrait_heng.jpg";
|
|
auto im = cv::imread(image_file);
|
|
|
|
if (device == "npu") {
|
|
model.DisableNormalizeAndPermute();
|
|
}
|
|
|
|
fastdeploy::vision::SegmentationResult res;
|
|
clock_t start = clock();
|
|
if (!model.Predict(&im, &res)) {
|
|
std::cerr << "Failed to predict." << std::endl;
|
|
return;
|
|
}
|
|
clock_t end = clock();
|
|
auto dur = (double)(end - start);
|
|
printf("infer_human_pp_humansegv2_lite_npu use time:%f\n",
|
|
(dur / CLOCKS_PER_SEC));
|
|
|
|
std::cout << res.Str() << std::endl;
|
|
auto vis_im = fastdeploy::vision::VisSegmentation(im, res);
|
|
cv::imwrite("human_pp_humansegv2_lite_npu_result.jpg", vis_im);
|
|
std::cout
|
|
<< "Visualized result saved in ./human_pp_humansegv2_lite_npu_result.jpg"
|
|
<< std::endl;
|
|
} |