検索結果を絞り込む
大内, 佑一朗, 吉田, 明正 第83回全国大会講演論文集 2021 (1), 25-26, 2021-03-04
...物体検出のディープラーニングに用いられる畳み込みニューラルネットワーク（CNN）では多くの行列計算が行われており，学習時間を短縮するためには行列計算の高速化が不可欠である．行列計算の高速化には，GPUの活用が広く行われているが，さらなる速度向上を実現するためには，単精度浮動小数点数FP32の代わりに，半精度浮動小数点数FP16を利用して，GPUの演算性能を高めることが挙げられる．加えて，Tensor...
情報処理学会
