Files
FastDeploy/docs/cn/build_and_install

FastDeploy安装

FastDeploy编译选项说明

选项 说明
ENABLE_ORT_BACKEND 默认OFF, 是否编译集成ONNX Runtime后端(CPU/GPU上推荐打开)
ENABLE_PADDLE_BACKEND 默认OFF是否编译集成Paddle Inference后端(CPU/GPU上推荐打开)
ENABLE_TRT_BACKEND 默认OFF是否编译集成TensorRT后端(GPU上推荐打开)
ENABLE_OPENVINO_BACKEND 默认OFF是否编译集成OpenVINO后端(CPU上推荐打开)
ENABLE_VISION 默认OFF是否编译集成视觉模型的部署模块
ENABLE_TEXT 默认OFF是否编译集成文本NLP模型的部署模块
WITH_GPU 默认OFF, 当需要在GPU上部署时需设置为ON
CUDA_DIRECTORY 默认/usr/local/cuda, 当需要在GPU上部署时用于指定CUDA(>=11.2)的路径
TRT_DIRECTORY 当开启TensorRT后端时必须通过此开关指定TensorRT(>=8.4)的路径
ORT_DIRECTORY 当开启ONNX Runtime后端时用于指定用户本地的ONNX Runtime库路径如果不指定编译过程会自动下载ONNX Runtime库
OPENCV_DIRECTORY 当ENABLE_VISION=ON时用于指定用户本地的OpenCV库路径如果不指定编译过程会自动下载OpenCV库
OPENVINO_DIRECTORY 当开启OpenVINO后端时, 用于指定用户本地的OpenVINO库路径如果不指定编译过程会自动下载OpenVINO库