Next: その他の実数表現法
Up: 4 浮動小数点数 (floating-point numbers)
Previous: 4.0.0.1 例(ミニ浮動小数点体系).
計算機の精度を特徴付ける量として、計算機イプシロンと呼ばれるものがあ
る。普通、 が より大きくなるような の
うちで最小のもの、と定義される:
厳密な値を知らなくても、大体の値が分かれば十分。次のような FORTRAN
プログラムの断片で調べることが出来る。
EPS = 1.0
10 EPS = EPS * 0.5
EPSP1 = EPS + 1.0
IF (EPSP1 .GT. 1) GOTO 10
演習 自分が使える言語処理系で machine epsilon を求めよ。単精度、
倍精度、両方求めること。
Next: その他の実数表現法
Up: 4 浮動小数点数 (floating-point numbers)
Previous: 4.0.0.1 例(ミニ浮動小数点体系).
桂田 祐史
2012-05-28