Files
FastDeploy/docs/FAQ.md

2.5 KiB
Raw Blame History

FastDeploy FAQ 文档

1. 在Windows 10 配置 CUDA v11.2 环境变量

FastDeploy Windows 10 x64 的 GPU 版本需要依赖 CUDA 11.2,在安装完 CUDA v11.2 之后,需要设置CUDA_DIRECTORYCUDA_HOMECUDA_PATHCUDA_ROOT任意一个环境变量这样FastDeploy才能链接到相关的库。有3种方式设置环境变量通过在代码中设置、终端命令行设置以及在系统环境变量中设置。

  • 方式一:在代码中设置 (推荐) 。该方式最简单只需要在导入FastDeploy之前通过os库设置环境变量即可。FastDeploy在初始化时会首先搜索CUDA_DIRECTORYCUDA_HOMECUDA_PATHCUDA_ROOT环境变量如果从这些环境变量的任意一个中找到有效的CUDA库则可以成功初始化。

    import os
    os.environ["CUDA_PATH"]=r"C:\\Program Files\\NVIDIA GPU Computing Toolkit\\CUDA\\v11.2"
    # 在设置环境变量后导入 fastdeploy
    import fastdeploy
    

    如果成功找到CUDA会显示以下信息:

    [FastDeploy][CUDA]: Found valid cuda directroy and added it: -> C:\\Program Files\\NVIDIA GPU Computing Toolkit\\CUDA\\v11.2\bin
    
  • 方式二: 终端命令行设置。该方式只在当前终端有效。Windows菜单打开x64 Native Tools Command Prompt for VS 2019命令工具,假设你需要在该终端运行类似python infer_ppyoloe.py的命令。

    % 选择以下任意一个环境变量设置即可 %
    set CUDA_PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.2
    set CUDA_HOME=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.2
    set CUDA_ROOT=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.2
    set CUDA_DIRECTORY=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.2
    
  • 方式三: 系统环境变量设置。该方式会修改系统环境变量。设置步骤为:

    • (1) 打开 "设置->系统->关于"
    • (2) 找到 "高级系统设置",点击打开
    • (3) 点击右下角的 "环境变量设置"
    • (4) 注意,在 "系统变量" 一栏右下角点击 "新建",如果已有相关的环境变量,则只需确认路径是否正确
    • (5) 设置CUDA_DIRECTORYCUDA_HOMECUDA_PATHCUDA_ROOT任意一个环境变量
    • (6) 根据以下提示来设置环境变量,并点击确认
    变量名(N): CUDA_DIRECTORY、CUDA_HOME、CUDA_PATH和CUDA_ROOT中任意一个
    变量值(V): 类似 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.2