過学習の発生具合を確認します。前回までの学習率の確認では過学習の影響を抑えるため、教師データ毎の学習量を少なめにしていました。今回は過学習の状況を確認するため、単位教師データあたりの学習量を増やして誤差がどうなるかを確認してみます。学習量を増やすので、過学習が発生しなければ、結果は前回よりも良くなるはずです。
前回の学習率0.1のデータを元に、単位局面あたりの学習量を2倍、3倍と増やして誤差の減り方を確認したのが以下のグラフです。4倍くらいまでは誤差が減る傾向がありますが、5倍のデータは4倍とほぼ変わらないか少し悪い結果で、このあたりでは過学習による悪影響が出ていると考えられます。
10万教師データ毎に学習データを入れ替えているため、途中で過学習が発生しても新しいデータを学習することで誤差は再び小さくなるのかなと思います。学習量を増やしたことで誤差が悪化するというところまでは明確には確認できていません。これ以上確認してもそれほど得られるものはないような気もしますが、学習データをもっと増やしたら誤差が悪化するのかというところをもう少し確認してみます。
