整数や有理数等は (可能な限り) 誤差のない計算をします。 小数に対しては有限精度の計算となります。 その場合 Sin[] などの関数の精度はデフォールトでは C 言語 の double と同程度 (つまりパソコンや WS では 10 進 16 桁弱) ですが、 精度はかなり自由に指定できます。
整数や有理数については、特に意識せずに使うことが出来ます。
100
や
2^100 などで試せます。
a=100! b=99! a/b a=3^100 b=3^98 a/b a=1.73205080000000000000000000000000000000000 (0を多めにつける) a=(3/a+a)/2 a=(3/a+a)/2 |