next up previous
Next: 5.6 分数 Up: 5. 簡単な文法 Previous: 5.4 組み込み関数

5.5 無限多倍長整数 (小数も任意精度まで)

整数や有理数等は (可能な限り) 誤差のない計算をします。 小数に対しては有限精度の計算となります。 その場合 Sin[] などの関数の精度はデフォールトでは C 言語 の double と同程度 (つまり 10 進 16 桁弱) ですが、 精度はかなり自由に指定できます。

整数や有理数については、特に意識せずに使うことが出来ます。 100$!$ 2^100 などで試せます。


next up previous
Next: 5.6 分数 Up: 5. 簡単な文法 Previous: 5.4 組み込み関数
Super-User
平成14年7月4日