next up previous
Next: 5.7 分数 Up: 5 電卓的な使用 Previous: 5.5 組み込み関数

5.6 無限多倍長整数 (小数も任意精度まで)

整数や有理数等は (可能な限り) 誤差のない計算をします。 小数に対しては有限精度の計算となります。 その場合 Sin[] などの関数の精度はデフォールトでは C 言語 の double と同程度 (つまりパソコンや WS では 10 進 16 桁弱) ですが、 精度はかなり自由に指定できます。

整数や有理数については、特に意識せずに使うことが出来ます。 100$ !$2^100 などで試せます。

  a=100!
  b=99!
  a/b

  a=3^100
  b=3^98
  a/b

  a=1.73205080000000000000000000000000000000000  (0を多めにつける)
  a=(3/a+a)/2
  a=(3/a+a)/2


next up previous
Next: 5.7 分数 Up: 5 電卓的な使用 Previous: 5.5 組み込み関数
Masashi Katsurada
平成21年6月7日