多変量一般化リッジ向帰におけるリッジパラメータ最適化のためのバイアス補正C_p規準 A Bias-Corrected C_p Criterion for Optimizing Ridge Parameters in Multivariate Generalized Ridge Regression

この論文にアクセスする

この論文をさがす

著者

    • 永井 勇 NAGAI Isamu
    • 広島大学大学院理学研究科 Department of Mathematics, Graduate School of Science, Hiroshima University
    • 佐藤 健一 SATOH Kenichi
    • 広島大学原爆放射線医科学研究所 Department of Environmetrics and Biometrics, Research Institute for Radiation Biology and Medicine, Hiroshima University

抄録

リッジ回帰におけるリッジパラメータの最適解は, Mallows (1973, 1995) の <I>C<SUB>p</SUB></I> 規準に代表される情報量規準の最小化により求められることが多い. しかしながら, 情報量規準を最小にする解は陽な形で求めることができず, 実際の最適化には計算機による繰り返し計算が必要となる. 一方, リッジパラメータを説明変数の個数まで追加した一般化リッジ回帰 (Hoerl and Kennard (1970)) では, <I>C<SUB>p</SUB></I> 規準を最小にするリッジパラメータを陽な形で求めることできる. 本論文では, この一般化リッジ回帰を多変量に拡張し, あてはめ値の基準化された予測平均二乗誤差に基づくリスク関数の不偏推定量となるように <I>C<SUB>p</SUB></I> 規準のバイアスを補正した Modified <I>C<SUB>p</SUB></I> (<I>MC<SUB>p</SUB></I>) 規準を提案する. 新しい規準量は <I>C<SUB>p</SUB></I> 規準のバイアスを完全に除去しているだけではなく, 分散も小さくしており, リスク関数の一様最小分散不偏推定量となっている. 数値実験により, <I>C<SUB>p</SUB></I> 規準でリッジパラメータを最適化するよりも, 新しい <I>MC<SUB>p</SUB></I> 規準で最適化した方が多くの場合で予測平均二乗誤差を改善できることがわかった.

In a ridge regression for an univariate linear regression model, it is common that an optimal ridge parameter is determined by minimizing an information criterion, e.g., Mallows' <I>C<SUB>p</SUB></I> criterion (Mallows (1973, 1995)). Since the solution to the minimization problem of the information criterion is not expressed by a closed form, an additional computational task is required. On the other hand, a generalized ridge regression proposed by Hoerl and Kennard (1970) has multiple ridge parameters, but optimal ridge parameters are obtained by closed forms. In this paper, we extend the generalized ridge regression to a multivariate linear regression case. Then, <I>C<SUB>p</SUB></I> criterion for optimizing ridge parameters in the multivariate generalized ridge regression is considered as an estimator of a risk function based on the mean square error of prediction. By correcting a bias of the <I>C<SUB>p</SUB></I> criterion completely, a bias-corrected <I>C<SUB>p</SUB></I> criterion named by modified <I>C<SUB>p</SUB></I> (<I>MC<SUB>p</SUB></I>) criterion is proposed. It is analytically proved that the proposed <I>MC<SUB>p</SUB></I> has not only smaller bias but also smaller variance than an existing <I>C<SUB>p</SUB></I> criterion and is the uniformly minimum variance unbiased estimator of the risk function. We show that the criterion has useful properties by means of numerical experiments.

収録刊行物

  • 応用統計学

    応用統計学 38(3), 151-172, 2009-12-25

    Japanese Society of Applied Statistics

参考文献:  27件中 1-27件 を表示

各種コード

  • NII論文ID(NAID)
    10026049079
  • NII書誌ID(NCID)
    AN00330942
  • 本文言語コード
    JPN
  • 資料種別
    ART
  • ISSN
    02850370
  • NDL 記事登録ID
    10540209
  • NDL 雑誌分類
    ZM31(科学技術--数学)
  • NDL 請求記号
    Z15-401
  • データ提供元
    CJP書誌  NDL  J-STAGE 
ページトップへ