Mixture of RNN experts によるルールダイナミクスの学習 Mixture of RNN experts for learning of temporal sequence given by rule dynamics

この論文をさがす

著者

    • 並川 淳 NAMIKAWA Jun
    • 独立行政法人理化学研究所 脳科学総合研究センター RIKEN Brain Science Institute
    • 谷 淳 TANI Jun
    • 独立行政法人理化学研究所 脳科学総合研究センター RIKEN Brain Science Institute

抄録

本稿では、観測時系列を適切な部分時系列に分節化し、複数の時間発展規則の組み合わせとして学習する混合回帰モデルについての新しい学習則を提案する。我々の提案する学習則はTani and Nolfi(1991)と同じ勾配法による最尤推定であるが、前提とする尤度関数が異なる。本稿では最初に九つのリサージュ曲線を確率的に遷移するマルコフ過程を学習した場合について、従来法で学習した場合と比較する。そして従来法では学習できないような場合でも、時系列を適切に文節化し、時間発展規則を正しく推定するすることができることを示す。次に、経験誤差と汎化誤差の観慮から従来法との比較を行い、これまでの方法より学習性能が改善されることを示す。

This paper proposes a learning method of the "mixture of experts" type model, which can acquire the ability to generate desired sequences as switching functions governing change of states. Our method is similar to Tani and Nolfi (1991) in that both are maximum likelihood estimation based on gradient descent algorithm, though the likelihood function is different. We first show a numerical simulation in which the model can learn Markov chain switching nine Lissajous curves-using our method. Furthermore, we numerically examine generalization and training error to compare conventional method and proposed method. The simulation results shows that our method improves learning performance of the model.

収録刊行物

  • 電子情報通信学会技術研究報告. NC, ニューロコンピューティング

    電子情報通信学会技術研究報告. NC, ニューロコンピューティング 107(92), 47-52, 2007-06-07

    一般社団法人電子情報通信学会

参考文献:  13件中 1-13件 を表示

各種コード

  • NII論文ID(NAID)
    110006344259
  • NII書誌ID(NCID)
    AN10091178
  • 本文言語コード
    JPN
  • 資料種別
    ART
  • ISSN
    09135685
  • NDL 記事登録ID
    8804033
  • NDL 雑誌分類
    ZN33(科学技術--電気工学・電気機械工業--電子工学・電気通信)
  • NDL 請求記号
    Z16-940
  • データ提供元
    CJP書誌  NDL  NII-ELS 
ページトップへ