next up previous
Next: 5.6 分数 Up: 5 電卓的な使用 Previous: 5.4 組み込み関数

5.5 無限多倍長整数 (小数も任意精度まで)

整数や有理数等は (可能な限り) 誤差のない計算をします。 小数に対しては有限精度の計算となります。 その場合 Sin[] などの関数の精度はデフォールトでは C 言語 の double と同程度 (つまりパソコンや WS では 10 進 16 桁弱) ですが、 精度はかなり自由に指定できます。

整数や有理数については、特に意識せずに使うことが出来ます。 100$!$2^100 などで試せます。


next up previous
Next: 5.6 分数 Up: 5 電卓的な使用 Previous: 5.4 組み込み関数
Masashi Katsurada
平成20年10月18日