進化型多目的最適化と2 次元離散コサイン変換を用いた敵対的サンプルの生成

DOI

書誌事項

タイトル別名
  • Adversarial Example Generation using Evolutionary Multi-objective Optimization and Two-dimensional Discrete Cosine Transform

抄録

<p>ニューラルネットワーク（NN）の急速な進歩による物体の画像認識性能の向上は目覚ましいが，NNに基づく分類器は，意図的にモデルが誤認識するように設計した敵対的サンプルの影響を受け，正しく物体認識を行えないことがある．このような敵対的サンプルは，NNの脆弱性の把握や特性の理解を行う上で有用である．AEの生成方式の多くは，NN 内部の情報である損失関数の勾配を必要とする方式が多いが，市販のソフトウェアやサービスなど，勾配情報が利用できないブラックボックス条件下であってもAE生成のニーズは高い．このため，本研究では進化型多目的最適化を用いて敵対的サンプルを生成する手法を提案する．提案手法は，目的関数の勾配を必要としないため，ブラックボックス条件下で多様なAEを同時に生成することができる．また，摂動の量と誤認識率など，本質的にトレードオフ関係にある複数の目的関数を最適化することによりパレート解集合を導出し，多様な特性を持つAEを同時に生成することができる．また，高解像度画像に対しても多数の画素を修正するAEを生成するために，2次元離散コサイン変換を利用してAEを生成する方法についても提案する．</p>

収録刊行物

キーワード

詳細情報 詳細情報について

  • CRID
    1390564238095251456
  • NII論文ID
    130007658871
  • DOI
    10.11517/pjsai.jsai2019.0_4l3j802
  • 本文言語コード
    ja
  • データソース種別
    • JaLC
    • CiNii Articles
  • 抄録ライセンスフラグ
    使用不可

問題の指摘

ページトップへ