Stoppkriterium für Nelder Mead

11

Ich versuche, den Nelder-Mead-Algorithmus zur Optimierung einer Funktion zu implementieren. Die Wikipedia-Seite über Nelder-Mead ist überraschend klar über den gesamten Algorithmus, mit Ausnahme seines Stoppkriteriums. Dort heißt es leider:

Auf Konvergenz prüfen _{[Klarstellung erforderlich]} .

Ich habe selbst einige Kriterien ausprobiert und getestet:

Stoppen Sie, wenn wobei klein ist und der te Scheitelpunkt des Simplex ist, geordnet von niedrig ( ) bis hoch ( $f(x_{N+1}) - f(x_1) < \epsilon$ $\epsilon$ $x_i$ $i$ $f(x_1)$ $f(x_{N+1})$ ) Funktionswerte. Mit anderen Worten, wenn der Maximalwert des Simplex fast gleich dem Minimalwert ist. Ich fand, dass dies nicht richtig funktionierte, da dies keine Garantie dafür gibt, was die Funktion im Simplex tut. Betrachten Sie beispielsweise die Funktion: Dies ist natürlich trivial zu optimieren, aber nehmen wir an, wir machen dies mit NM und lassen unsere beiden Simplex-Punkte und . Der Algorithmus würde hier konvergieren, ohne sein Optimum zu finden.
$f (x) = x^{2}$ $f(x) = x^2$ $x_1 = -1$ $x_2=1$
Die zweite Option beinhaltet die Auswertung des Schwerpunkts des Simplex: stop if . Dies setzt voraus, dass, wenn der niedrigste Punkt des Simplex und der Schwerpunkt solche ähnlichen Werte haben, der Simplex ausreichend klein ist, um Konvergenz zu nennen. $|f(x_1) - f(x_c)| < \epsilon$

Ist dies ein geeigneter Weg, um die Konvergenz zu überprüfen? Oder gibt es eine etablierte Möglichkeit, dies zu überprüfen? Ich konnte hierzu keine Quellen finden, da sich die meisten Suchtreffer auf die Komplexität des Algorithmus konzentrieren.

optimization algorithms

— JAD
quelle

1. Mir ist nicht klar, warum Sie vergleichen, was bei

mit

passiert . sicherlich möchten Sie es mit dem vergleichen, was bei

passiert . 2. Konvergenzprüfungen sind ein besonders schwieriger Bereich bei vielen Optimierungen. Sie brauchen, dass sich die Funktion nicht viel ändert, aber wenn sich die Argumente schnell ändern (auch wenn sich die Funktion kaum ändert), haben Sie möglicherweise nicht konvergiert, sodass die Leute häufig Kriterien verwenden, die beide betrachten. Es gibt auch die Frage, ob Sie ein relatives oder ein absolutes Kriterium verwenden (beides reicht nicht aus - z. B. wird ein relativer Test, wenn Sie sehr nahe bei 0 sind, nicht ausgelöst)

x_{N + 1}

$x_{N+1}$

x_{1}

$x_1$

x_{N}

$x_N$

— Glen_b

3

Das beste Stoppkriterium für Nelder Mead ist, bevor Sie beginnen.

— Mark L. Stone

Nur um Verwirrung in der Notation in @ Glen_bs Kommentar zu vermeiden ... Ich glaube, die Indizes hier beziehen sich auf die Eckpunkte des Simplex, nicht auf die Iteration des Algorithmus. Damit das erste in dieser Frage vorgeschlagene Konvergenzkriterium die niedrigsten und höchsten Funktionswerte von Eckpunkten im

dimensionalen Parameterraum vergleicht ... wird dies in der Frage nicht explizit angegeben, sondern in der Beschreibung des Algorithmus auf der verknüpften Wikipedia-Seite ( und im Originalpapier) ordnen Sie die

Eckpunkte vom niedrigsten zum höchsten Funktionswert.

N

$N$

N + 1

$N+1$

— Nate Pope

@NatePope Das war meine Absicht, ja, ich werde die Frage klarer stellen. \

— JAD

6

Die Darstellung dieses "Downhill-Simplex-Algorithmus" in den Originalversionen von Numerical Recipes ist besonders klar und hilfreich. Ich werde daher relevante Teile davon zitieren. Hier ist der Hintergrund:

$N$ $N$

$N+1$ $P_0$
$\begin{matrix} (10.4.1) & P_{i} = P_{0} + λ e_{i} \end{matrix}$ $P_i = P_0 + \lambda e_i\tag{10.4.1}$ $e_i$ $N$ $\lambda$
Bei den meisten Schritten wird nur der Punkt des Simplex, an dem die Funktion am größten ist ("höchster Punkt"), durch die gegenüberliegende Seite des Simplex zu einem niedrigeren Punkt verschoben. ...

Nun zum vorliegenden Problem: Beenden des Algorithmus. Beachten Sie die Allgemeingültigkeit des Kontos: Die Autoren geben intuitive und nützliche Ratschläge zum Beenden eines mehrdimensionalen Optimierers und zeigen dann speziell, wie er für diesen bestimmten Algorithmus gilt. Der erste Absatz beantwortet die vor uns liegende Frage:

Kündigungskriterien können heikel sein .... Wir können normalerweise einen "Zyklus" oder "Schritt" unseres mehrdimensionalen Algorithmus identifizieren. Es ist dann möglich zu beenden, wenn die in diesem Schritt bewegte Vektorentfernung geringfügig kleiner als eine Toleranz ist TOL. Alternativ könnten wir verlangen, dass die Abnahme des Funktionswerts im Abschlussschritt geringfügig kleiner als eine Toleranz ist FTOL. ...

$N$ $N+1$ $(10.4.1)$ $P_0$

Neustarts sollten niemals sehr teuer sein. Ihr Algorithmus ist schließlich einmal zum Neustartpunkt konvergiert, und jetzt starten Sie den Algorithmus bereits dort.

[Seiten 290-292.]

$x$ $y$ $T\gt 0$

\begin{matrix} (1) & \frac{| x | - | y |}{f (x, y)} = 2 \frac{| x | - | y |}{| x | + | y |} < T \end{matrix}

$\frac{|x| - |y|}{f(x,y)} = 2\frac{|x|-|y|}{|x| + |y|} \lt T\tag{1}$

$f(x,y) = (|x|+|y|)/2$

$(1)$

Referenz

William H. Press et al. , Numerische Rezepte: Die Kunst des wissenschaftlichen Rechnens. Cambridge University Press (1986). Besuchen Sie http://numerical.recipes/ für die neuesten Ausgaben.

— whuber
quelle

1

Vielen Dank für den Einblick in den Neustart. Ich dachte, dies würde den Algorithmus nur von verschiedenen Startpunkten aus ausführen, aber es scheint tatsächlich mehr zu geben.

— JAD

Ich hatte vorher nicht über die möglichen Bedeutungen von "Neustart" nachgedacht. Im vorliegenden Kontext hätte ich vielleicht einen Begriff wie "Polieren" für den "Neustart" verwendet, aber vielleicht ist das auch nicht ganz richtig. Die Art des "Neustarts", die für die Simplex-Methode empfohlen wird, kann für sie etwas Besonderes sein.

— whuber

9

Keine vollständige Antwort, aber zu lang für einen Kommentar und könnte Sie auf den richtigen Weg bringen.

Dieses Thema wird auf Seite 171 der 2. Ausgabe von "Compact Numerical Methods for Computers" von John C. Nash kurz behandelt. Und ist zufällig die Referenz, die für die in Rs optim()Funktion implementierte Nelder-Mead-Routine zitiert wird . Zitieren des relevanten Teils:

$t e s t = {[(\sum_{i = 1}^{n + 1} [S (b_{i}) - \bar{S}]^{2}) / n]}^{1 / 2}$ $\mathrm{test} = \left[ \left( \sum_{i=1}^{n+1}[S(b_i) - \bar{S}]^2 \right) / n \right]^{1/2}$ $\bar{S} = \sum_{i = 1}^{n + 1} S (b_{i}) / (n + 1) .$ $\bar{S} = \sum_{i=1}^{n+1} S(b_i)/(n+1).$

$S(.)$ $b$ $n+1$ $n$ $b_H$ $b_L$

$S(b_L)$ $S(b_H)$

Ein kurzer Blick auf die Quelle von optim()zeigt an, dass die Differenz zwischen dem höchsten und dem niedrigsten Funktionswert (der Punkte, die den Simplex definieren) verwendet wird, um die Konvergenz zu bestimmen: if (VH <= VL + convtol || VL <= abstol) break;Wo VHist der hohe Wert und VLder niedrige Wert? Dies ist mit der Einschränkung verbunden, dass ich mir die Quelle sehr schnell angesehen habe und wahrscheinlich etwas fehlt.

Nun scheint Ihre Option (1) der zweite von Nash befürwortete Ansatz zu sein. Er bespricht auch das Problem, auf das Sie gestoßen sind:

$(n+1)$ $(n-1)$ $n$

Die ursprünglichen Referenzen, auf die sich Nash hier bezieht, sind:

Nelder JA, Mead R. 1965. Eine Simplex-Methode zur Funktionsminimierung. The Computer Journal 7: 308-313.

O'Neill R. 1971. Algorithmus AS 47: Funktionsminimierung unter Verwendung eines Simplex-Verfahrens. Applied Statistics 20: 338 & ndash; 345.

— Nate Papst
quelle

3

f_{min} (t) \equiv {min}_{all corners} f (X_{i}, t)

$f_{\text{min}}(t) \equiv \text{min}_{\text{all corners}} \ f(X_i, t)$

# stop when you run out of patience, no improvement for say 10 iterations in a row:
if t > tbest + patience:
    message = "iter %d: f %g >= fbest %g" ...
    return message, fbest, xbest

$n+1$

Das Problem: unwegsames Gelände, möglicherweise mit schlechter Skalierung oder dummen Einschränkungen
der Algorithmus, der das Erkunden und Bewegen (und die Komplexität der Software) in Einklang bringt
die eigentliche Stoppregel

bleibt abzuwarten - echte Testfälle sind willkommen.

(Eine echte StopiterKlasse hat zusätzlich viele Stoppbedingungen patience; am einfachsten ist die Wanduhrzeit.)

Siehe auch:
NLopt : Viele Algorithmen, einschließlich Nelder-Mead, leicht zu vergleichen. Siehe insbesondere die Hinweise zum Vergleichen von Algorithmen
Downhill : Geduld aufhören mitmin_improvement

— denis
quelle