Files
FastDeploy/docs/cn/build_and_install/download_prebuilt_libraries.md
2022-12-13 10:54:51 +08:00

4.6 KiB
Executable File
Raw Blame History

预编译库安装

FastDeploy提供各平台预编译库供开发者直接下载安装使用。当然FastDeploy编译也非常容易开发者也可根据自身需求编译FastDeploy。

本文分为两部分:

GPU部署环境

环境要求

  • CUDA >= 11.2
  • cuDNN >= 8.0
  • python >= 3.6
  • OS: Linux(x64)/Windows 10(x64)

支持CPU和Nvidia GPU的部署默认集成Paddle Inference、ONNX Runtime、OpenVINO以及TensorRT推理后端Vision视觉模型模块Text文本NLP模型模块

Python安装

Release版本当前最新1.0.1)安装

pip install fastdeploy-gpu-python -f https://www.paddlepaddle.org.cn/whl/fastdeploy.html

Develop版本Nightly build安装

pip install fastdeploy-gpu-python==0.0.0 -f https://www.paddlepaddle.org.cn/whl/fastdeploy_nightly_build.html

其中推荐使用Conda配置开发环境

conda config --add channels conda-forge && conda install cudatoolkit=11.2 cudnn=8.2

C++ SDK安装

Release版本

平台 文件 说明
Linux x64 fastdeploy-linux-x64-gpu-1.0.1.tgz g++ 8.2, CUDA 11.2, cuDNN 8.2编译产出
Windows x64 fastdeploy-win-x64-gpu-1.0.1.zip Visual Studio 16 2019, CUDA 11.2, cuDNN 8.2编译产出

Develop版本Nightly build

平台 文件 说明
Linux x64 fastdeploy-linux-x64-gpu-0.0.0.tgz g++ 8.2, CUDA 11.2, cuDNN 8.2编译产出
Windows x64 fastdeploy-win-x64-gpu-0.0.0.zip Visual Studio 16 2019, CUDA 11.2, cuDNN 8.2编译产出

CPU部署环境

环境要求

  • python >= 3.6
  • OS: Linux(x64/aarch64)/Windows 10 x64/Mac OSX(x86/aarm64)

仅支持CPU部署默认集成Paddle Inference、ONNX Runtime、OpenVINO, Vision视觉模型模块(Linux aarch64和Mac OSX下仅集成ONNX Runtime模块) Text文本NLP模型模块。

Python安装

Release版本当前最新1.0.1)安装

pip install fastdeploy-python -f https://www.paddlepaddle.org.cn/whl/fastdeploy.html

Develop版本Nightly build安装

pip install fastdeploy-python==0.0.0 -f https://www.paddlepaddle.org.cn/whl/fastdeploy_nightly_build.html

C++ SDK安装

Release版本

平台 文件 说明
Linux x64 fastdeploy-linux-x64-1.0.1.tgz g++ 8.2编译产出
Windows x64 fastdeploy-win-x64-1.0.1.zip Visual Studio 16 2019编译产出
Mac OSX x64 fastdeploy-osx-x86_64-1.0.1.tgz clang++ 10.0.0编译产出
Mac OSX arm64 fastdeploy-osx-arm64-1.0.1.tgz clang++ 13.0.0编译产出
Linux aarch64 fastdeploy-linux-aarch64-1.0.1.tgz gcc 6.3编译产出
Android armv7&v8 fastdeploy-android-1.0.0-shared.tgz NDK 25及clang++编译产出, 支持arm64-v8a及armeabi-v7a

Java SDK安装

Release版本Java SDK 目前仅支持Android版本为1.0.0

平台 文件 说明
Android Java SDK fastdeploy-android-sdk-1.0.0.aar NDK 20 编译产出, minSdkVersion 15, targetSdkVersion 28

Develop版本Nightly build

平台 文件 说明
Linux x64 fastdeploy-linux-x64-0.0.0.tgz g++ 8.2编译产出
Windows x64 fastdeploy-win-x64-0.0.0.zip Visual Studio 16 2019编译产出
Mac OSX x64 fastdeploy-osx-x86_64-0.0.0.tgz -
Mac OSX arm64 fastdeploy-osx-arm64-0.0.0.tgz clang++ 13.0.0编译产出
Linux aarch64 - -
Android armv7&v8 - -