apps/FastDeploy
1
0
Fork 0
mirror of https://github.com/PaddlePaddle/FastDeploy.git synced 2025-12-24 13:28:13 +08:00
Code Issues Actions 2 Packages Projects Releases Wiki Activity
Files
ab8d0394b791cd3fa384aba0f2d3fa5e22776dcf
FastDeploy/docs/cn/build_and_install/download_prebuilt_libraries.md
charl-u 02eab973ce [Doc]Add English version of documents in docs/cn and api/vision_results (#931) 
* 第一次提交

* 补充一处漏翻译

* deleted:    docs/en/quantize.md

* Update one translation

* Update en version

* Update one translation in code

* Standardize one writing

* Standardize one writing

* Update some en version

* Fix a grammer problem

* Update en version for api/vision result

* Merge branch 'develop' of https://github.com/charl-u/FastDeploy into develop

* Checkout the link in README in vision_results/ to the en documents

* Modify a title

* Add link to serving/docs/

* Finish translation of demo.md
2022-12-22 18:15:01 +08:00

4.7 KiB
Executable File
Raw Blame History

English | 简体中文

预编译库安装

FastDeploy提供各平台预编译库，供开发者直接下载安装使用。当然FastDeploy编译也非常容易，开发者也可根据自身需求编译FastDeploy。

本文分为两部分：

GPU部署环境

环境要求

  • CUDA >= 11.2
  • cuDNN >= 8.0
  • python >= 3.6
  • OS: Linux(x64)/Windows 10(x64)

支持CPU和Nvidia GPU的部署，默认集成Paddle Inference、ONNX Runtime、OpenVINO以及TensorRT推理后端，Vision视觉模型模块，Text文本NLP模型模块

Python安装

Release版本（当前最新1.0.1）安装

pip install fastdeploy-gpu-python -f https://www.paddlepaddle.org.cn/whl/fastdeploy.html

Develop版本（Nightly build）安装

pip install fastdeploy-gpu-python==0.0.0 -f https://www.paddlepaddle.org.cn/whl/fastdeploy_nightly_build.html

其中推荐使用Conda配置开发环境

conda config --add channels conda-forge && conda install cudatoolkit=11.2 cudnn=8.2

C++ SDK安装

Release版本

平台 文件 说明
Linux x64 fastdeploy-linux-x64-gpu-1.0.1.tgz g++ 8.2, CUDA 11.2, cuDNN 8.2编译产出
Windows x64 fastdeploy-win-x64-gpu-1.0.1.zip Visual Studio 16 2019, CUDA 11.2, cuDNN 8.2编译产出

Develop版本（Nightly build）

平台 文件 说明
Linux x64 fastdeploy-linux-x64-gpu-0.0.0.tgz g++ 8.2, CUDA 11.2, cuDNN 8.2编译产出
Windows x64 fastdeploy-win-x64-gpu-0.0.0.zip Visual Studio 16 2019, CUDA 11.2, cuDNN 8.2编译产出

CPU部署环境

环境要求

  • python >= 3.6
  • OS: Linux(x64/aarch64)/Windows 10 x64/Mac OSX(x86/aarm64)

仅支持CPU部署，默认集成Paddle Inference、ONNX Runtime、OpenVINO, Vision视觉模型模块(Linux aarch64和Mac OSX下仅集成ONNX Runtime模块)， Text文本NLP模型模块。

Python安装

Release版本（当前最新1.0.1）安装

pip install fastdeploy-python -f https://www.paddlepaddle.org.cn/whl/fastdeploy.html

Develop版本（Nightly build）安装

pip install fastdeploy-python==0.0.0 -f https://www.paddlepaddle.org.cn/whl/fastdeploy_nightly_build.html

C++ SDK安装

Release版本

平台 文件 说明
Linux x64 fastdeploy-linux-x64-1.0.1.tgz g++ 8.2编译产出
Windows x64 fastdeploy-win-x64-1.0.1.zip Visual Studio 16 2019编译产出
Mac OSX x64 fastdeploy-osx-x86_64-1.0.1.tgz clang++ 10.0.0编译产出
Mac OSX arm64 fastdeploy-osx-arm64-1.0.1.tgz clang++ 13.0.0编译产出
Linux aarch64 fastdeploy-linux-aarch64-1.0.1.tgz gcc 6.3编译产出
Android armv7&v8 fastdeploy-android-1.0.0-shared.tgz NDK 25及clang++编译产出, 支持arm64-v8a及armeabi-v7a

Java SDK安装

Release版本（Java SDK 目前仅支持Android，版本为1.0.0）

平台 文件 说明
Android Java SDK fastdeploy-android-sdk-1.0.0.aar NDK 20 编译产出, minSdkVersion 15, targetSdkVersion 28

Develop版本（Nightly build）

平台 文件 说明
Linux x64 fastdeploy-linux-x64-0.0.0.tgz g++ 8.2编译产出
Windows x64 fastdeploy-win-x64-0.0.0.zip Visual Studio 16 2019编译产出
Mac OSX x64 fastdeploy-osx-x86_64-0.0.0.tgz -
Mac OSX arm64 fastdeploy-osx-arm64-0.0.0.tgz clang++ 13.0.0编译产出
Linux aarch64 - -
Android armv7&v8 - -
Reference in New Issue View Git Blame Copy Permalink