「Optuna」とは、TPE(tree-structured parzen estimator)というベイズ最適化アルゴリズムの一種を用いたハイパーパラメータの最適化を自動化するためのソフトウェアフレームワーク。
「Optuna」は「Chainer」を含む様々な機械学習ソフトウェアと一緒に使うことができ、現在は「Python」で利用できる。「Chainer」は以前紹介した深層学習フレームワークであり、「Chainer」を用いたニューラルネットの学習に関するハイパーパラメータを最適化する場合、「Chainer」を用いるユーザーコードの一部に「Optuna」からハイパーパラメータを受け取るコードを書き、それを「Optuna」に渡すことによって、「Optuna」が自動的に何度もそのユーザーコードを呼び出し、異なるハイパーパラメータによりニューラルネットの学習が何度も行われ、優れたハイパーパラメータが自動的に発見される。
「Optuna」と「Chainer」は密結合しているわけではなく、「Chainer」以外の機械学習ソフトウェアとも一緒に使うことができる。
TPEに関して、詳細を知りたい人は下記webページを参照。
『TPE(tree-structured parzen estimator)について』
参考(引用)
Preferred Research:ハイパーパラメータ自動最適化ツール「Optuna」公開