Mathematische Optimierung einer verrauschten Funktion

Sei eine Funktion, die ziemlich nett ist (z. B. stetig, differenzierbar, nicht zu viele lokale Maxima, vielleicht konkav usw.). Ich möchte ein Maximum von : einen Wert , der so groß wie möglich macht. $f:\mathbb{R}^d \to \mathbb{R}$ $f$ $x \in \mathbb{R}^d$ $f(x)$

Wenn ich ein Verfahren hätte, um bei einer Eingabe meiner Wahl genau zu bewerten , könnte ich mathematische Standardoptimierungstechniken verwenden: Bergsteigen, Gefälle (gut, Gefälle) usw. In meiner Anwendung habe ich jedoch keine Weg, um genau zu bewerten . Stattdessen habe ich eine Möglichkeit, den Wert von zu schätzen . $f$ $f(x)$ $f(x)$

Insbesondere habe ich bei jedem und jedem ein Orakel, das eine Schätzung von ausgibt und dessen erwarteter Fehler ungefähr beträgt . Die Laufzeit dieses Orakelaufrufs ist proportional zu . (Es wird durch eine Art Simulation implementiert. Die Genauigkeit der Simulation steigt mit der Quadratwurzel der Anzahl der Versuche, und ich kann auswählen, wie viele Versuche ausgeführt werden sollen, damit ich die gewünschte Genauigkeit auswählen kann.) Dies gibt mir also eine Weg, um eine Schätzung der gewünschten Genauigkeit zu erhalten, aber je genauer die Schätzung sein soll, desto länger dauert es. $x$ $\varepsilon$ $f(x)$ $\varepsilon$ $1/\varepsilon^2$

Gibt es angesichts dieses lauten Orakels für Techniken, um ein Maximum von so effizient wie möglich zu berechnen ? (Oder genauer gesagt, ein ungefähres Maximum finden.) Gibt es Varianten des Bergsteigens, des Gefälles usw., die in diesem Modell funktionieren? $f$ $f$

Natürlich könnte ich mit diesem Orakel einen sehr kleinen Wert von festlegen und Bergsteigen oder Gefälle anwenden , wobei ich durchgehend . Dies kann jedoch unnötig ineffizient sein: Wir benötigen möglicherweise keine so genaue Schätzung am Anfang, während die Genauigkeit am Ende, wenn Sie sich auf die Lösung konzentrieren, wichtiger ist. Gibt es also eine Möglichkeit, meine Fähigkeit zu nutzen, die Genauigkeit meiner Schätzung dynamisch zu steuern, um den Optimierungsprozess effizienter zu gestalten? Wurde diese Art von Problem schon einmal untersucht? $\varepsilon$ $\varepsilon$

optimization approximation

— DW
quelle

Scheint ein sehr ratenoptimierendes Problem zu sein, um ein eigenes Fachgebiet zu rechtfertigen. Was ist mit simuliertem Tempern? Können Sie die Ideen von dort anpassen - die Übergangswahrscheinlichkeiten und den Temperaturplan? Dort besteht eine Verbindung - während Sie fortfahren, sinkt die Temperatur, und in Ihrem Fall möchten Sie, dass

sinkt.

ϵ

$\epsilon$

— Randomsurfer_123

Cybersynchronizität, ist kürzlich in einem GA-Programm auf genau diesen Fall gestoßen. stimmte mit rs oben überein, dass simuliertes Tempern funktionieren sollte, wenn die Genauigkeit der Funktionsbewertung in etwa mit dem Temperaturabfall übereinstimmt. Eine andere Idee besteht darin, an jedem Punkt nur eine feste Anzahl von Stichproben zu erstellen und den Durchschnitt als Schätzung zu verwenden. Eine fortgeschrittenere Theorie könnte Ihnen nur sagen, dass Sie nicht umsonst etwas bekommen können und dass es keine Abkürzung zu Bewertungen gibt, die die Optimierung verbessern.

— vzn

$f(x,p)$ $f(x+\Delta x, p + \Delta p)$ $p$ $\Delta x$ $\Delta p$

Einige Techniken, die bei der stochastischen Optimierung und der robusten Optimierung verwendet werden, könnten anwendbar sein.
$\frac{\partial f}{\partial x}\approx 0$ $\Delta x$ $\Delta p$
$\frac{\partial f}{\partial x}(\tilde{x}, \tilde{p})$ $f(\tilde{x}, \tilde{p})$
$\Delta p$ $\Delta x$ $1/\epsilon^2$
Der gegebene Kompromiss zwischen Rauschen und Laufzeit unterscheidet dieses Problem von besser untersuchten Problemen. Probleme, bei denen der Lärm einfach unvermeidbar ist, sind häufiger und besser untersucht.

— Thomas Klimpel
quelle

f (x, p)

$f(x,p)$

f^{*} (x + Δ x, Δ p)

$f^*(x+\Delta x,\Delta p)$

p

$p$

p = 0

$p=0$

f^{*}

$f^*$ ). Stochastische Optimierung und robuste Optimierung klingen mehr oder weniger nach den Dingen, nach denen ich gesucht habe. Das ist also sehr hilfreich. Vielen Dank.

— DW

p = 0

$p=0$

f (x, 0)

$f(x,0)$

f (x + Δ x, Δ p)

$f(x+\Delta x, \Delta p)$

Δ x

$\Delta x$

Δ p

$\Delta p$