解釈可能性をもたらすヒートマップの変化に着目した過剰学習がCNNにもたらす影響の検討

DOI

書誌事項

タイトル別名
  • Investigation of the influence of over training on CNN focusing on change of heat map which brings interpretability

抄録

<p>Convolutional Neural Network(CNN)は, 画像認識をはじめとする多くの研究に使われているが, その解釈可能性に関しては問題視されている.そのため多くの既往研究により, 入力画像のヒートマップを作成することで, この解釈可能性を補うような研究が進められてきた.そして,それらの手法は全て学習済みのモデルのみで評価をされており,学習過程に注目したものはない.これは,Early Stoppingなどの指標に基づき学習を止めたものを最適なモデルとして選択しているためである.しかし,既往研究により分類問題に関しては学習を続けるほど(過剰学習),精度が上昇することが報告されており,Early Stoppingでは精度の面からは,最適なモデルを選択できない可能性が示唆された.そこで本研究では,学習過程でのヒートマップの変化に着目することで,過剰学習が及ぼす影響を検討した.結果として,ヒートマップはEarly Stoppingにより選択したものとは異なる画像として出力されるようになり,出力層のエントロピーと正解クラスの予測確率が不安定になる傾向が見られた.</p>

収録刊行物

キーワード

詳細情報 詳細情報について

  • CRID
    1390564238095993600
  • NII論文ID
    130007658559
  • DOI
    10.11517/pjsai.jsai2019.0_2q3j201
  • 本文言語コード
    ja
  • データソース種別
    • JaLC
    • CiNii Articles
  • 抄録ライセンスフラグ
    使用不可

問題の指摘

ページトップへ