-
EarlyStoppingの仕様誤解とcallbackのタイミング
TensorFlow+TPUの実装がうまくいくようになって、そろそろ本格的にFXのレート予想の研究に入ろうと思ってたところ、１つ問題が発生しました。 いくら計算が高速なTPUとはいえ、毎回5,000、10,000エポック […]
-
クラウド型GPUのコスト比較
前回GPUの強化・更新について悩みました。今回買う場合と借りる場合を比較してみます。クラウド型GPUとは、いわゆるレンタルサーバのGPUです（今名付けました） 自分で買うのをためらう理由はいくつかあります。 自分で買う場 […]
-
ディープラーニングにおけるGPUの効果
ディープラーニングの研究において、学習時間の短縮は非常に大きな問題です。特に前回の例のように1回40時間とか要すると、簡単に試行錯誤できません・・・ 現在shimizuの実行活環境は、i7-4770T＋GTX1060(6 […]
-
最適化メソッドの比較
前回SGDとバッチサイズの関係を調べて、大きな収穫がありました。そこで今度は最適化メソッドを入れ替えた場合の傾向について調査してみます。 比較用に採用したメソッドは以下の通り SGD（link） adagrad（link […]