Skip to content
This repository has been archived by the owner on Aug 15, 2024. It is now read-only.

paddle的CUDA12对应的部分说明 #102

Open
oUp2Uo opened this issue Jun 19, 2024 · 4 comments
Open

paddle的CUDA12对应的部分说明 #102

oUp2Uo opened this issue Jun 19, 2024 · 4 comments

Comments

@oUp2Uo
Copy link

oUp2Uo commented Jun 19, 2024

文档里没有写怎么对应CUDA12的环境,这里补充一下。

  1. 文档里提到的powershell设置那块,可以直接打开安装了miniconda后自带的Anaconda Prompt (miniconda3)或者Anaconda Powershell Prompt (miniconda3),就能直接用了。不要用win自带的powershell。
    另外,下面CUDA和CUDNN的安装分为装本地系统和用conda两个方式,可自行选择。

注:下面所述里的conda激活mc环境,指打开Anaconda Prompt (miniconda3)或者Anaconda Powershell Prompt (miniconda3),然后进到本项目的目录,并执行conda activate mc之后的意思。如果是连着步骤做下去的,不需要重复activate。

  1. 安装CUDA 12.x。
    手动官网下载安装包,然后系统里安装;或者conda激活mc环境,然后安装想要的12.x版本,如conda install -c nvidia cuda-toolkit=12.4.0

  2. 安装CUDNN 8.9.7。
    手动下载archive里8.x版本最新的一个(https://developer.nvidia.com/rdp/cudnn-archive ),解压缩后,将目录加入系统PATH(注意加了之后需要重启生效);或者conda激活mc环境,然后执行conda install -c conda-forge cudnn=8.9.7.29注意不能用最新的CUDNN 9.x版本,因为paddle编译用的是8.x版本。

  3. 安装支持CUDA 12.0的paddle。
    conda激活mc环境,然后执行python -m pip install paddlepaddle-gpu==2.6.1.post120 -f https://www.paddlepaddle.org.cn/whl/windows/mkl/avx/stable.html

  4. 验证安装结果。
    安装完成后,conda激活mc环境,输入python,然后输入import paddle,再输入paddle.utils.run_check(),如果出现PaddlePaddle is installed successfully!,说明已成功安装。

另:
onnxruntime-gpu对应CUDA 12.x的安装方法也不一样,参考https://onnxruntime.ai/docs/install/
具体做法就是把requirements.txt里面的onnxruntime-gpu去掉,然后手动按下面命令来安装:
pip install onnxruntime-gpu --extra-index-url https://aiinfra.pkgs.visualstudio.com/PublicPackages/_packaging/onnxruntime-cuda-12/pypi/simple/

@BlueSkyXN
Copy link

你说的是对的

@HugoLau91
Copy link

目前飞桨的技术文档只支持CUDA 工具包 12.0 配合 cuDNN v8.9.1使用

@oUp2Uo
Copy link
Author

oUp2Uo commented Jul 12, 2024

目前飞桨的技术文档只支持CUDA 工具包 12.0 配合 cuDNN v8.9.1使用

最后第三位的小版本没事的,不改接口只是内部修bug。亲测cudnn 8.9.7 OK。
至于CUDA 12.4为啥也能用,只能说12.0到12.4的调整可能没有影响到paddle。亲测CUDA 12.4 OK。

@HugoLau91
Copy link

目前飞桨的技术文档只支持CUDA 工具包 12.0 配合 cuDNN v8.9.1使用

最后第三位的小版本没事的,不改接口只是内部修bug。亲测cudnn 8.9.7 OK。 至于CUDA 12.4为啥也能用,只能说12.0到12.4的调整可能没有影响到paddle。亲测CUDA 12.4 OK。

目前用的是paddle-gpu 3.0,配合CUDA 工具包 12.3 和 cuDNN v9.0.0,暂时使用没返现问题

Sign up for free to subscribe to this conversation on GitHub. Already have an account? Sign in.
Labels
None yet
Projects
None yet
Development

No branches or pull requests

3 participants