Newton 法の意味

Newton 法の式の意味を簡単に説明しましょう。微分の定義によると、$x$ が $a$ に十分近いところでは、$f$ は「接線の式」で近似されます:

$$f(x)\fallingdotseq f'(a)(x-a)+f(a).$$

今 $a$ が $f(x)=0$ の解に十分近いとすると、$f(x)=0$ の代わりに

$$f'(a)(x-a)+f(a)=0$$

を解くことにより、$a$ よりも精度の高い近似解が得られると考えるのは自 然でしょう。実際に実行すると、まず移項して

$$f'(a)(x-a)=-f(a).$$

両辺に $[f'(a)]^{-1}$ をかけて

$$x-a=-[f'(a)]^{-1}f(a),$$

ゆえに

$$x=a-[f'(a)]^{-1}f(a)=a-\frac{f(a).}{f'(a)}.$$

多変数の場合も、$[f'(a)]^{-1}$ を Jacobi 行列の逆行列と考えれば、まっ たく同様に Newton 法が使えます。