前回、学習率の違いについて調べましたが、0.05、0.1、0.15と3種類実行した結果は大きくは変わらない結果でした。結局、学習率は大きめの方がよいのか、小さめの方がよいのかがまだわからないので、もう少し学習を進めています。そのうち差が出てくるだろうと思って進めているのですが、800万局面分のデータで学習した後もあまり大きな差は出ていません。強いて言えば学習率の小さい0.05の誤差の縮まり具合に若干陰りが出てきているようにも見えますが。この先学習を続けてもずっとこの傾向が続くのか、差が出てくるのかわかりませんが、まだ学習データはあるのでもう少し続けてみます。
