Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

コアのonnx化 #4

Closed
Hiroshiba opened this issue Dec 2, 2021 · 4 comments
Closed

コアのonnx化 #4

Hiroshiba opened this issue Dec 2, 2021 · 4 comments
Assignees

Comments

@Hiroshiba
Copy link
Member

今(0.9.3)コアはlibtorch製になっています。
onnx製にすると、スピードが上がり、容量が劇的に軽くなることがわかりました。
これは、onnxに移行するプロジェクトです。

onnx化自体はほぼ完了しています。

ただ、もともとコアはOSSとして作られておらず(暗号化する関係で)、必要な機能をOSSとして再実装していく必要があり、それらのタスクの量が多めになっています。

@Hiroshiba
Copy link
Member Author

onnx化に関して、バージョン0.10で取り込めると最高だなと考えています。
取り込むためのタスクを的確に遂行できるのは @Yosshi999 さんが最適かなと個人的に感じているのですが、お任せすることはできますか・・・?

具体的には ↑ にあるタスクをやっていくことになるかなと思っています。
僕も手伝いたいので、各issueをアサインしつつ順次やっていければ良いかなと思うのですが、いかがでしょうか。

@Yosshi999
Copy link

👍

@Hiroshiba
Copy link
Member Author

ではアサインさせていただきます!!

@Hiroshiba
Copy link
Member Author

onnx化プロジェクトの成果が含まれたバージョン0.10.4がリリースされました!!
https://twitter.com/voicevox_pj/status/1489602429473951744

onnx化に関しては、onnx化するさいにモデルの出力が若干変わってしまうという課題がまだ残っています。

onnx化するという目的は達成できたと思うので、このプロジェクトをcloseしたいと思います。

無事リリースすることができました!!!
@Yosshi999 さんを筆頭に関わってくださった皆様、本当にありがとうございました!!!

ちなみにですが、onnx化ができたので、web版VOICEVOXとか、スマホ版VOICEVOXとか、新たなプロジェクトも立ち上げたいなと思ってます。
もしご興味あれば、ぜひ・・・!

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Projects
None yet
Development

No branches or pull requests

2 participants