から まで、誤差の大きさの見積が、 計算者が指定した値 より小さくなるように解くことを目標にする。 このとき のことを許容誤差限界と呼ぶ。 を と分割して解くことにする。 における値 まで定まったとする。 における 5次公式, 4 次公式による近似値をそれぞれ , とすると、
となる。ただし とおいた。これから
通常は、 は よりも格段に精度が良いと期待出来るので、 この式の値が の誤差の良い評価となっていると考えられる:
さて、
と置いておく。
目標は で解いたときの許容誤差限界を とすることであるから、 で解いたときの許容誤差限界は
とするのが妥当であろう。それゆえ
であれば良いが、 そうでない場合は、 が大きすぎて十分な精度が得られていないと考え、 もっと を小さくすることにする。 の代りに、 なる を用いて
とおき、これに対応した , を求め、 とおく。
となると期待できるから、
今度は となって欲しいわけだが、 この不等式の左辺に推定値を代入した不等式
を について解くと
を得る。安全のために
で を定めることにする。