医療系AIエンジニアの技術メモ

ディープラーニング(主に画像系)の技術メモブログです

Transfusion: Understanding Transfer Learning with Applications to Medical Imaging

スポンサーリンク


論文URL

https://arxiv.org/pdf/1902.07208.pdf
2019年2月公開

ポイント

  • 医療画像(眼底画像、胸部X線)に対する転移学習の効果を調査
    • ImageNetを使っても使わなくても、最終精度に有意差なし
    • 学習スピードは転移学習による効果大
      • パラメータ初期値の平均と分散を学習済みパラメータから決めてやるだけでも学習スピードは速くなる
        • BN層の初期値は何もしない状態(γ=σ=1, μ=β=0)にする
      • そうは言っても、純粋な転移学習より遅いのでやる意味はない
    • ImageNetでは低層のフィルタはGaborフィルタっぽくなっているが、医療画像のみで学習(ランダム初期値or上記平均&分散のみ使用時)した場合は、Gaborフィルタは再現されない。
      • 最終的な特徴量は転移学習の有無に寄らず似た感じになる。

f:id:y_kurashina:20210828011446p:plain f:id:y_kurashina:20210828011640p:plain


スポンサーリンク