Transfusion: Understanding Transfer Learning with Applications to Medical Imaging
スポンサーリンク
論文URL
https://arxiv.org/pdf/1902.07208.pdf 2019年2月公開
ポイント
- 医療画像(眼底画像、胸部X線)に対する転移学習の効果を調査
- ImageNetを使っても使わなくても、最終精度に有意差なし
- 学習スピードは転移学習による効果大
- パラメータ初期値の平均と分散を学習済みパラメータから決めてやるだけでも学習スピードは速くなる
- BN層の初期値は何もしない状態(γ=σ=1, μ=β=0)にする
- そうは言っても、純粋な転移学習より遅いのでやる意味はない
- パラメータ初期値の平均と分散を学習済みパラメータから決めてやるだけでも学習スピードは速くなる
- ImageNetでは低層のフィルタはGaborフィルタっぽくなっているが、医療画像のみで学習(ランダム初期値or上記平均&分散のみ使用時)した場合は、Gaborフィルタは再現されない。
- 最終的な特徴量は転移学習の有無に寄らず似た感じになる。
スポンサーリンク