2.3.1 記号、言葉

以下では $K=\R$ または $K=\C$, また $N$ は自然数とする。

$$\begin{eqnarray*} M(K;N)&=&\hbox{$K$\ の要素を成分とする $N$\ 次正方行列全体の.. ...(K;N)&=&\hbox{$K$\ の要素を成分とする $N$\ 次正則行列全体の集合} \end{eqnarray*}$$

$A\in GL(K;N)$, $b\in K^N$ に対して、連立1次方程式

$$A x=b$$

を浮動小数点数を用いた計算機上で「解く」と、丸め誤差のために $x$ その ものは得られず、それとは異なる $x_\ast\in K^N$ が得られる。 このとき $x-x_\ast$ を(絶対)誤差、$b-A x_\ast$ を(絶対)残差と呼ぶ(「誤 差」= ``error'', 「残差」= ``residual'').