マイロ将棋(24)過学習発生具合の確認

過学習の発生具合確認を続けています。同じデータでの学習量を増やせば、過学習によって誤差が悪化するはずだと思うのですが、なかなかそうはなりません。10万局面分の学習データを一定量学習した後に入れ替えているので、そこで過学習によって悪化した内容がリセットされるようです。同じデータの学習量を増やすほど、一時的には誤差が悪化するのが以下のグラフのギザギザの縦幅で読み取れます。また同じデータの学習量を増やしても、最終的な学習結果は良くも悪くもならず、どの場合も同じくらいの結果に収束していくように見えるところが興味深いです。このグラフの場合だと学習量を元の4倍にした結果が、1500万局面分学習したグラフの一番右端では、誤差が10.0から11.0の間くらいです。6倍、8倍、10倍の場合も10.0から11.0の間くらいでほぼ一緒です。この学習では4倍よりたくさんの学習をさせてもあまり効果が無さそうです。もっと極端に学習量を増やしたら変わるのかもしれないですが。

過学習の発生具合確認