変傾共役勾配法によるBP学習の安定化と高速化 Variable Slope-Conjugate Gradient Method for BP Learning Algorithm

この論文にアクセスする

この論文をさがす

著者

抄録

階層型ニューラルネットワークの学習法であるBP学習において, 学習速度とローカルミニマの問題がある.学習の高速化に関しては, 共役勾配法が提案されており, その高速性が明らかになっているが, 初期値依存性の問題も合わせ持つ.一方, 初期値依存性に対しては, 変傾法が提案されているが, 本質的に最急降下法であるため, 学習速度の面で改良の余地がある.そこで, 本研究では変傾法の更新を共役方向に実現する変傾共役勾配法を提案する.さらに, その挙動に癖が見られることを指摘し, この癖を利用して高速化を図った改良型変傾共役勾配法を提案し, 化学プロセスの制御問題に適用してその有効性を示す.

BP learning algorithm from Conjugate Gradient method is an effective method for high speed learning. However, in this method, the problem of its dependency on learning initial values should be mentioned. Variable Slope is effective for learning with accuracy. Therefore, in this paper, we propose a learning algorithm that is a combination of the Conjugate Gradient and Variable Slope methods. Moreover, we propose Improved Variable Slope-Conjugate Gradient algorithm that uses the trend of Variable Slope-Conjugate Gradient algorithm. In order to verify this proposal we performed a simulation experiment using a data for the production control of a chemical plant.

収録刊行物

  • 日本経営工学会誌

    日本経営工学会誌 46(2), 152-158, 1995

    公益社団法人 日本経営工学会

参考文献:  14件中 1-14件 を表示

被引用文献:  2件中 1-2件 を表示

各種コード

  • NII論文ID(NAID)
    110003936705
  • NII書誌ID(NCID)
    AN00187973
  • 本文言語コード
    JPN
  • 資料種別
    ART
  • ISSN
    0386-4812
  • データ提供元
    CJP書誌  CJP引用  NII-ELS  J-STAGE 
ページトップへ