整数や有理数等は (可能な限り) 誤差のない計算をします。 小数に対しては有限精度の計算となります。 その場合 Sin[] などの関数の精度はデフォールトでは C 言語 の double と同程度 (つまりパソコンや WS では 10 進 16 桁弱) ですが、 精度はかなり自由に指定できます。
整数や有理数については、特に意識せずに使うことが出来ます。
100
や
2^100 などで試せます。
Sqrt[2] などの値を小数で近似する場合は、 N[Sqrt[2], 100] のように精度を指定できます。