ブレント法(求根アルゴリズム)の収束率はどれくらいですか?



What Is Convergence Rate Brents Method



解決:

ブレントは、収束の順序が次の正の根である逆二次補間を使用して、線形収束が保証された二分ステップを組み合わせる方法を提案しました。

$$ mu ^ 3- mu ^ 2- mu-1 = 0 $$



したがって、$ mu 約1.839 $です。これを割線法の収束の「黄金分割」順序、次の正の根と比較することができます。

$$ phi ^ 2- phi --1 = 0 $$



または、一方では$ phi upperx 1.618 $であり、他方ではニュートン法の収束次数2です。

もちろん、関係するトレードオフがあります。逆二次補間は、割線法のように、ステップごとに1つの新しい関数評価のみを必要としますが、より複雑な式を使用してルート近似を更新し、逆二次補間は、ニュートン法が必要とする導関数の評価を回避します。


正解:

自分の時間で多くのテストを行った後、ブレント法を高精度で実行すると、特定の異常に気づきました。 ブレント法は、収束の次数を達成することはありません$ mu upperx1.839 $ 。実際、それは収束の順序を達成していません$ 1.7 $。詳細を検討した結果、ブレント法は実際には最大で収束の順序に達することがわかりました。$ mu ^ {1/3} phi ^ {2/3} upperx1,689 $一般に。また、ブレント法の実装は基本的にウィキペディアにあるもののコピーであり、正しくない可能性があることも指摘しておきます。



私が今間違った答えで以下に議論するように、逆二次補間の漸近的振る舞いはの符号に依存しています$ C $(以下に定義)。もしも$ C<0$次に、逆二次補間は常にルートの片側で推定値を生成します。これにより、ルートの片側で割線のような動作が発生し、次の式で収束の順序が与えられます。$ phi upperx1.618 $

もしも$ C> 0 $、その後、はるかに興味深い状況が発生します。させて$ a、b、c $ブラケットポイント、ルートの最良の推定値、および以前の値$ b $それぞれ(ウィキペディアで行われているように)。次の場合を考えてみましょう$ b $$ c $ルートの同じ側にあります。

  1. 以下によると、新しいIQI見積もり$ s $置き換えます$から$

  2. $ c $その後、に設定されます$ b $

  3. $から$その後、に設定されます$ b $

  4. $から$$ b $交換されます。

  5. 以来$ a = c $現在、IQIは使用できないため、割線法を使用して計算します。$ s $IQIの代わりに。

  • 仮定する$ s $と同じ側にあります$から$。後で反対のケースを検討します。 (割線が$ s $着陸は固定されています。)
  1. $ c $その後、に設定されます$ b $

  2. $から$その後、に設定されます$ s $

  3. $から$$ b $新しい見積もりが以前よりも優れているため、交換されます。

  4. 以来$ a = c $繰り返しになりますが、IQIはまだ使用できないため、割線法の別のラウンドが試行されます。

  5. $ c $その後、に設定されます$ b $

  6. $ b $その後、に設定されます$ s $。割線に注意してください$ s $根の同じ側に着陸します。

  7. IQIが再度適用され、前のすべての手順を繰り返します。

割線法がと同じ側に着地する場合について$ b $ステップ5-6では、ステップ12にスキップし、次の反復で上記のループに入ります。

合計で、上記のサイクルは1つのIQI反復と2つの割線反復を生成します。それぞれの場合に根の最良の推定値のみが使用されるため、各方法に最適な収束順序が使用されていることを安全に確認できます。これは収束の順序につながります$ mu phi ^ 2 $3回以上の反復、または予想される$ mu ^ {1/3} phi ^ {2/3} $単一の反復ごと。


誤った主張:

ブレント法が常に収束の次数を持っているというのは実際にはそうではありません$ mu upperx1.839 $hardmathの答えによって与えられるように。この動作は、この回答でRidderの方法に関して説明したものと似ています。特に、

$$ C = frac16(f ^ {-1}) '' '(0)[f'(x_ mathrm {root})] ^ 3 $$

が正の場合、収束の順序は確かに$ 1,839 $。それが負であるか、ルートの近傍で負である場合、収束の順序は実際には次のように低下​​します。$ phi upperx1.618 $、割線法の速度です。

もちろん、これはルートが単純であることを前提としています。