Kleinste absolute Abweichungen, die mit dem Barrodale-Roberts-Algorithmus gelöst werden: Vorzeitige Beendigung?

Bitte entschuldigen Sie die längere Frage, es bedarf nur einer Erklärung, um zum eigentlichen Problem zu gelangen. Diejenigen, die mit den genannten Algorithmen vertraut sind, könnten wahrscheinlich direkt zum ersten Simplex-Tablau springen.

Um Probleme mit der geringsten absoluten Abweichung (auch bekannt als -Optimierung) zu lösen , ist der Barrodale-Roberts-Algorithmus eine spezielle Simplex-Methode, die weitaus weniger Speicher- und Rechenaufwand benötigt, um ein geeignetes Minimum zu finden. $L_1$

Meine Implementierung des Algorithmus endet an einem einfachen Beispiel, bevor ein angemessenes Minimum erreicht ist. Lassen Sie mich das Problem jedoch wahrscheinlich zuerst ausführlicher darlegen:

Bei gegebenen Daten versucht die -Optimierung, zu finden , das minimiert $(x_i,y_i)$ $L_1$ $c\in m$ wobei ist eine - Matrixdie in gewisser Weise davon abhängt . Dieses Problem kann als lineares Programm angegeben und daher unter anderem mit simplexartigen Methoden gelöst werden.

\sum_{i = 1}^{n} | y_{i} - f (x_{i}) | with f (x) := A_{x} \cdot ϕ

$\sum_{i=1}^n |y_i-f(x_i)| \quad\text{with}\quad f(x):=A_x\cdot \phi$

A_{x}

$A_x$

n \times m

$n\times m$

x

$x$

$L_1$ $\mathop{rank}(A)$

Lei und Anderson schlugen 2002 eine kleine Modifikation vor , die die numerische Stabilität erhöhen und daher bekannte Probleme mit dem Simplex-Algorithmus überwinden soll.

Grundsätzlich geht dieser Algorithmus davon aus, dass Sie mit einem bestimmten Satz von Punkten beginnen, die interpoliert werden müssen, die angegebenen Prozeduren verwenden, um ein Simplex-Tableau zu erstellen, und dann anhand der Regeln von Barrodale und Roberts entscheiden, welche Basisvariablen geändert und daher modifiziert werden sollen Satz von Datenpunkten, der angenähert wird.

$\{(1,1), (2,1), (3,2), (4,3), (5,2)\}$ $a_1+a_2x$

\begin{array}{llll} Basis & R & u_{1} & u_{3} \\ b_{1} & 1 / 2 & 3 / 2 & - 1 / 2 \\ v_{2} & 1 / 2 & 1 / 2 & 1 / 2 \\ b_{2} & 1 / 2 & - 1 / 2 & 1 / 2 \\ u_{4} & 1 / 2 & 1 / 2 & - 3 / 2 \\ v_{5} & 1 & - 1 & 2 \\ Marginal cost & 2 & - 1 & 0 \end{array}

$\begin{array}{l|l|ll} \hline \text{Basis}&R& u_1 & u_3\\ \hline b_1 & 1/2 & 3/2 & -1/2 \\ v_2 & 1/2 & 1/2 & 1/2 \\ b_2 & 1/2 & -1/2 & 1/2 \\ u_4 & 1/2 & 1/2 & -3/2 \\ v_5 & 1 & -1 & 2 \\ \hline \text{Marginal cost} &2 & -1 & 0\\ \hline \end{array}$

$2$

Da alle nichtbasischen Vektoren nicht positive Grenzkosten haben [...]

Die Iteration ist beendet und das Optimum ist erreicht.

$\{2, 5\}$

\begin{array}{llll} Basis & R & u_{2} & u_{5} \\ u_{1} & 1 / 3 & - 4 / 3 & 1 / 3 \\ b_{1} & 1 / 3 & 5 / 3 & - 2 / 3 \\ u_{3} & 2 / 3 & - 2 / 3 & - 1 / 3 \\ u_{4} & 4 / 3 & - 1 / 3 & - 2 / 3 \\ b_{2} & 1 / 3 & - 1 / 3 & 1 / 3 \\ Marginal cost & 7 / 3 & - 10 / 3 & - 5 / 3 \end{array}

$\begin{array}{l|l|ll} \hline \text{Basis}&R& u_2 & u_5\\ \hline u_1 & 1/3 & -4/3 & 1/3 \\ b_1 & 1/3 & 5/3 & -2/3 \\ u_3 & 2/3 & -2/3 & -1/3 \\ u_4 & 4/3 & -1/3 & -2/3 \\ b_2 & 1/3 & -1/3 & 1/3 \\ \hline \text{Marginal cost} &7/3 & -10/3 & -5/3\\ \hline \end{array}$

$u_2$ $u_1$

Zusätzliche Informationen: Wenn ich mit dem von Tablrodale und Roberts angegebenen anfänglichen Tableau beginne, kann ich das obige Tableau auch mit gewöhnlichen Simplex-Schritten reproduzieren. Daher bin ich ziemlich sicher, dass die tatsächlichen numerischen Werte korrekt sind und meine Interpretation der Pivot-Auswahlregel ist fehlerhaft.

Irgendwelche Gedanken dazu?

Mir ist klar, dass die Frage selbst ziemlich kompliziert ist und wahrscheinlich Kenntnisse über mindestens den Barrodale- und Roberts-Algorithmus erfordert, um ausreichend beantwortet zu werden. Der Algorithmus als Ganzes ist zu lang, um ihn hier im Detail zu wiederholen. Wenn Sie jedoch weitere Fragen zu den von mir unternommenen Schritten oder zu fehlenden Informationen haben, können Sie diese gerne stellen, und ich werde die Frage gerne ergänzen.

optimization linear-programming

— Thilo
quelle

Wenn jemand mit ausreichendem Ruf ein Tag nach dem Vorbild von "Least-Absolute-Deviations" oder "L1-Approximation" erstellen könnte, wäre ich dankbar.

— Thilo

Die Optimalitätsbedingung ist, dass die Basislösung machbar sein muss (in Bezug auf ihre Nicht-Negativitätsbeschränkungen) und dass die reduzierten Kosten kleiner oder gleich 0 sein müssen. Wenn Ihre Basislösung nicht realisierbar ist, sind alle Wetten ungültig.

— Brian Borchers

Die Grundlösung ist konstruktionsbedingt realisierbar. Somit sollte es kein Problem geben. Ich habe jedoch eine erste Idee, wo das Problem liegen könnte. Ich werde eine entsprechende Antwort hinzufügen, wenn ich recht habe.

— Thilo

Ich habe es gelöst. Eigentlich haben Barrodale und Roberts es gelöst und ich habe es einfach nicht sorgfältig gelesen.

$u_i$ $i$ $u_i=0$ $v_i$

$b_j$ $c_j$ $u_i$ $v_i$

Daher muss mein Simplex-Tableau oben wie folgt aussehen:

\begin{array}{llllll} Basis & R & u_{2} & u_{5} & v_{2} & v_{5} \\ u_{1} & 1 / 3 & - 4 / 3 & 1 / 3 & 4 / 3 & - 1 / 3 \\ b_{1} & 1 / 3 & 5 / 3 & - 2 / 3 & - 5 / 3 & 2 / 3 \\ u_{3} & 2 / 3 & - 2 / 3 & - 1 / 3 & 2 / 3 & 1 / 3 \\ u_{4} & 4 / 3 & - 1 / 3 & - 2 / 3 & 1 / 3 & 2 / 3 \\ b_{2} & 1 / 3 & - 1 / 3 & 1 / 3 & - 1 / 3 & - 1 / 3 \\ Marginal cost & 7 / 3 & - 10 / 3 & - 5 / 3 & 4 / 3 & - 1 / 3 \end{array}

$\begin{array}{l|l|ll| ll} \hline \text{Basis}&R& u_2 & u_5 & v_2 & v_5\\ \hline u_1 & 1/3 & -4/3 & 1/3 & 4/3 & -1/3 \\ b_1 & 1/3 & 5/3 & -2/3 & -5/3 & 2/3 \\ u_3 & 2/3 & -2/3 & -1/3 & 2/3 & 1/3 \\ u_4 & 4/3 & -1/3 & -2/3 & 1/3 & 2/3 \\ b_2 & 1/3 & -1/3 & 1/3 & -1/3 & -1/3 \\ \hline \text{Marginal cost} &7/3 & -10/3 & -5/3 & 4/3 & -1/3\\ \hline \end{array}$

$v_2$

Vielen Dank, dass Sie gelesen haben und mir einen Platz zum Aufschreiben meines Problems gegeben haben, was normalerweise dazu beiträgt, die Lösung erheblich einzugrenzen. Hoffentlich kann diese Antwort manchmal für andere hilfreich sein, die versuchen, Barrodale & Roberts zu implementieren.

— Thilo
quelle