Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Windows CUDA 版エンジンに同梱の cuDNN が ONNX Runtime 1.13 がサポートしている対応バージョンと異なる #602

Closed
1 of 3 tasks
PickledChair opened this issue Feb 1, 2023 · 4 comments
Labels
OS 依存:win Windows に依存した現象 優先度:低 (運用中止) 初心者歓迎タスク 初心者にも優しい簡単めなタスク 機能向上

Comments

@PickledChair
Copy link
Member

PickledChair commented Feb 1, 2023

内容

現在 Releases で提供している Windows の CUDA 版のエンジンには、以下のように cuDNN のバージョン 8.4.1 が同梱されています。しかし 8.5.0.96 が正しい対応バージョンのようです(Linux では現状通り 8.4.1 が正しいようです) 。

(Discord で以下のように @sabonerune さんからの指摘がありました)

GPU詳しくないのですが
https://onnxruntime.ai/docs/execution-providers/CUDA-ExecutionProvider.html#requirements
この表にはonnxruntime 1.13に対応しているWindowsのcudnnバージョンは8.5.0.96ですが

cudnn_url: https://developer.download.nvidia.com/compute/redist/cudnn/v8.4.1/local_installers/11.6/cudnn-windows-x86_64-8.4.1.50_cuda11.6-archive.zip

ではcudnn 8.4.1になっているのは大丈夫なのでしょうか?

現時点で Windows の CUDA 版のエンジンで不具合があるかどうかは確認できていないのですが、修正した方が良い可能性があります。

Pros 良くなる点

Windows の CUDA 版エンジンに同梱の cuDNN が ONNX Runtime 公式で案内されている対応バージョン通りになる。

Cons 悪くなる点

特になさそうです。

実現方法

build.yml に記載されているリンクを対応バージョンのものに差し替える。
(もし配布物のディレクトリ構造が変更されていた場合は、それにも対応する。)

VOICEVOXのバージョン

0.14.0

OSの種類/ディストリ/バージョン

  • Windows
  • macOS
  • Linux
@github-actions github-actions bot added the OS 依存:win Windows に依存した現象 label Feb 1, 2023
@PickledChair
Copy link
Member Author

現時点で Windows の CUDA 版のエンジンで不具合があるかどうかは確認できていないのですが

と書いたのですが、もしかしたら Windows において #585 の原因になっている可能性もあるでしょうか……?

@Hiroshiba
Copy link
Member

issue作成ありがとうございます!!

もしかしたらそちらの不具合の原因になってるかもですね!!
環境によって動いたり動かなかったりしてるのが厄介ですね。。

@tarepan
Copy link
Contributor

tarepan commented Feb 21, 2024

#695 ではCUDAの後方互換性ポリシーに基づいて問題ない、との判定でした。
cuDNN bump 後も不具合増の報告はないため「ORT公式が1点決めしているバージョンに従う必要は無い」が現段階での結論かと思います。

@Hiroshiba
よって close 可能かと思います。

@Hiroshiba
Copy link
Member

ちょっと結果論ですが、たしかにバージョンは違っててても普通に動くという結論になりそうです。
とはいえonnxruntimeのチューニングに使われたcuDNNとバージョンがずれてるのは、なんか勿体無い気もします。

ということで、なるべくバージョンは合わせる努力はしつつも、一旦こちらのissueはcloseで良さそうなのかなと思いました!
ちなみにcudaとかdirectmlとかcudnnをまとめるだけのリポジトリがこちらにあります。
コアはここに依存してるので、エンジンもこっちに依存して良いかもですね…!
https://github.com/VOICEVOX/voicevox_additional_libraries

@Hiroshiba Hiroshiba closed this as not planned Won't fix, can't repro, duplicate, stale Feb 21, 2024
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
OS 依存:win Windows に依存した現象 優先度:低 (運用中止) 初心者歓迎タスク 初心者にも優しい簡単めなタスク 機能向上
Projects
None yet
Development

No branches or pull requests

3 participants