-
Development of PC emulator detecting a calculation precision degradation
[in Japanese]
-
Toshihiko Matsuda
,
Toshiaki Kitamura
コンピュータによる浮動小数点演算では,演算結果の丸め,オーバーフロー,アンダーフロー,桁落ち,情報落ちなどの要因により,計算した結果が正しい答えとなっていない場合がある.浮動小数点演算を規格化した IEEE754 では,例外を検出する事によって,丸め,オーバーフロー,アンダーフローに対処している.しかしながら,桁落ちや情報落ちは検出できないため,精度低下検出には不十分であるといえる.そこで我々は, …
IPSJ SIG Notes 2011-HPC-132(24), 1-6, 2011-11-21
CiNii Link1