Warum ist Lambda „innerhalb eines Standardfehlers vom Minimum“ ein empfohlener Wert für Lambda in einer elastischen Netto-Regression?

Ich verstehe, welche Rolle Lambda in einer elastischen Netzregression spielt. Und ich kann verstehen, warum man lambda.min auswählen würde, den Wert von lambda, der quervalidierte Fehler minimiert.

Meine Frage ist, wo in der Statistikliteratur die Verwendung von Lambda.1se empfohlen wird, dh der Wert von Lambda, der den CV-Fehler plus einen Standardfehler minimiert . Ich kann anscheinend kein formelles Zitat oder gar einen Grund dafür finden, warum dies oft ein guter Wert ist. Ich verstehe, dass es eine restriktivere Regularisierung ist und die Parameter mehr gegen Null schrumpfen werden, aber ich bin mir nicht immer sicher, unter welchen Bedingungen Lambda.1se eine bessere Wahl ist als Lambda.min. Kann jemand helfen zu erklären?

Friedman, Hastie und Tibshirani (2010) zitieren die Elemente des statistischen Lernens und schreiben:

Bei der Auswahl des besten Modells verwenden wir häufig die Ein-Standard-Fehler-Regel. dies erkennt die Tatsache an, dass die Risikokurven fehlerhaft geschätzt werden, was auf der Seite der Sparsamkeit liegt.

Der Grund für die Verwendung eines Standardfehlers im Gegensatz zu jeder anderen Menge scheint darin zu liegen, dass er ... Standard ist. Krstajic et al. (2014) schreiben (fettgedruckte Hervorhebung meiner):

Breiman et al. [25] haben im Fall der Auswahl der optimalen Baumgröße für Klassifizierungsbaummodelle festgestellt, dass die Baumgröße mit minimalem Kreuzvalidierungsfehler ein Modell erzeugt, das im Allgemeinen überpasst. In Abschnitt 3.4.3 ihres Buches Breiman et al. [25] Definieren Sie eine Standardfehlerregel (1 SE-Regel) für die Auswahl einer optimalen Baumgröße und implementieren Sie diese im gesamten Buch. Um den Standardfehler für die Kreuzvalidierung einzelner V-Faltungen zu berechnen, muss die Genauigkeit für jede Faltung berechnet werden, und der Standardfehler wird aus den V-Genauigkeiten jeder Faltung berechnet. Hastie et al. [4] Definieren Sie die 1-SE-Regel so, dass das sparsamste Modell ausgewählt wird, dessen Fehler nicht mehr als ein Standardfehler über dem Fehler des besten Modells liegt, und schlagen Sie an mehreren Stellen vor, die 1-SE-Regel für die allgemeine Kreuzvalidierung zu verwenden.Der Hauptpunkt der 1 SE-Regel, der wir zustimmen, ist die Auswahl des einfachsten Modells, dessen Genauigkeit mit dem besten Modell vergleichbar ist .

$\lambda$

Das Buch von Breiman et al. (Zitiert im Zitat der anderen Antwort von Krstajic) ist die älteste Referenz, die ich für die 1SE-Regel gefunden habe.

Dies sind die Klassifikations- und Regressionsbäume von Breiman, Friedman, Stone und Olshen (1984). Diese Regel leiten sie in Abschnitt 3.4.3 ab.

Wenn Sie also ein offizielles Zitat benötigen, scheint dies die ursprüngliche Quelle zu sein.