深層学習の学習経過におけるクラスタ構造の推移の可視化

• 渡邊 千紘

  NTTコミュニケーション科学基礎研究所

書誌事項

タイトル別名

• Visualization of cluster structure transition in deep learning

抄録

深層ニューラルネットは様々なタスクにおいて高い性能を達成しており，その予測のメカニズムを理解するための手法を構築することは重要な研究課題である．近年，データから学習されたニューラルネットをより単純で解釈性の高いモジュール構造に分解するための手法が提案されている．本論文では，深層ニューラルネットの学習経過についての知識を獲得するために，学習におけるモジュール構造の推移を可視化する手法を提案する．提案法では，まず学習の各段階におけるニューラルネットを階層的クラスタリングに基づきモジュール構造に分解し，次に異なる学習段階におけるモジュール同士の関係を共通するユニットの割合に基づいて解析する．実験により，提案法を用いることで学習経過におけるモジュールの分割と統合の様子と，各モジュールが持つ入出力マッピングの意味での役割について知識を獲得できることを示した．

収録刊行物

• 人工知能学会全国大会論文集

  人工知能学会全国大会論文集 JSAI2019 (0), 2Q3J202-2Q3J202, 2019

  一般社団法人 人工知能学会

キーワード

• 深層学習
• 解釈性
• 階層的クラスタリング

詳細情報

• CRID: 1390845713073532544
• NII論文ID: 130007658560
• DOI: 10.11517/pjsai.jsai2019.0_2q3j202
• 本文言語コード: ja
• データソース種別:
  • JaLC
  • CiNii Articles
• 抄録ライセンスフラグ: 使用不可