かる~く、チュートリアルをこなそうとおもったけど、バージョンアップの洗礼をうけて、いろいろハマりました。 deprecated って、冷たくあしらわれて、なんとか、チュートリアル(本家のチュートリアルじゃありません)をこなしました。
この次は、CNN, LTSM, RNN あたりをクリアしていきたいところです(適当)。
それが終わったら、伝達関数を少し工夫してみたいです。
あと余裕があれば、学習モードと忘却モードのモデルを切り替えて、過学習気味に学習をさせて、忘却だけの伝達関数を使って忘却学習を実践してみたい。ニューロンが繋がって構築されたところに忘却学習でシナプスを弱らせ、不要な枝葉を孤立させてしまうと…。もしかしたら、それを何回か繰り返して、その後、通常の学習をさせると良いとか?いろいろ妄想してます。
追伸:孤立と言っても、本当に孤立するわけじゃなくて、その経路への信号が細るだけです。再度学習すれば、また繋がるかもしれないし、途中で分流して、そこへの信号は来ないままかもしれないし。
0 件のコメント:
コメントを投稿