Statistiken und Big Data bias-variance-tradeoff

7

Bias und Varianz in der Leave-One-Out- vs. K-Fold-Kreuzvalidierung

Wie vergleichen sich verschiedene Kreuzvalidierungsmethoden in Bezug auf Modellvarianz und Verzerrung? Meine Frage ist zum Teil durch diesen Thread motiviert: Optimale Anzahl von Falten bei der fachen Kreuzvalidierung: Ist ein ausschließlicher Lebenslauf immer die beste Wahl? KKK. Die dortige Antwort legt nahe, dass Modelle, die mit einer einmaligen Kreuzvalidierung erlernt …

83 machine-learning variance cross-validation bias bias-variance-tradeoff

2

Optimale Anzahl von Falten bei der fachen Kreuzvalidierung: Ist ein aussagekräftiger Lebenslauf immer die beste Wahl?

Gibt es abgesehen von Überlegungen zur Rechenleistung Gründe zu der Annahme, dass eine Erhöhung der Anzahl der Falten bei der Kreuzvalidierung zu einer besseren Modellauswahl / -validierung führt (dh je höher die Anzahl der Falten, desto besser)? Wird das Argument auf die Spitze getrieben, führt eine ausschließliche Kreuzvalidierung zwangsläufig zu …

47 cross-validation bias-variance-tradeoff

2

Verständnis der Bias-Varianz-Kompromissableitung

Ich lese gerade das Kapitel über den Kompromiss zwischen Bias-Varianz und den Elementen des statistischen Lernens und bezweifle, dass die Formel auf Seite 29 basiert. Die Daten ergeben sich aus einem Modell, bei dem wobei zufällig ist Zahl mit dem erwarteten Wert und Varianz . Der erwartete Fehlerwert des Modells …

20 machine-learning unbiased-estimator mse bias-variance-tradeoff

2

Frage zum Bias-Varianz-Kompromiss

Ich versuche den Bias-Varianz-Kompromiss, die Beziehung zwischen dem Bias des Schätzers und dem Bias des Modells und die Beziehung zwischen der Varianz des Schätzers und der Varianz des Modells zu verstehen. Ich bin zu folgenden Schlussfolgerungen gekommen: Wir neigen dazu, die Daten zu überdecken, wenn wir die Abweichung des Schätzers …

15 regression variance bias bias-variance-tradeoff

2

Warum wird die Auswahl der besten Teilmenge im Vergleich zu Lasso nicht bevorzugt?

Ich lese über die Auswahl der besten Teilmengen im Buch Elemente des statistischen Lernens. Wenn ich 3 Prädiktoren , erstelle ich 2 3 = 8 Teilmengen:x1,x2,x3x1,x2,x3x_1,x_2,x_323=823=82^3=8 Teilmenge ohne Prädiktoren Teilmenge mit Prädiktor x1x1x_1 Teilmenge mit Prädiktor x2x2x_2 Teilmenge mit Prädiktor x3x3x_3 Teilmenge mit Prädiktoren x1,x2x1,x2x_1,x_2 Teilmenge mit Prädiktoren x1,x3x1,x3x_1,x_3 Teilmenge …

13 regression feature-selection lasso bias-variance-tradeoff

4

Ist es möglich, angepasste Residuen nach Anpassen eines linearen Modells in Bias und Varianz zu zerlegen?

Ich möchte Datenpunkte so klassifizieren, dass sie entweder ein komplexeres Modell oder kein komplexeres Modell benötigen. Mein derzeitiger Gedanke ist es, alle Daten an ein einfaches lineares Modell anzupassen und die Größe der Residuen zu beobachten, um diese Klassifizierung vorzunehmen. Ich habe dann etwas über die Verzerrungs- und Varianzbeiträge zum …

9 regression multiple-regression residuals bias-variance-tradeoff

1

Varianzterm bei der Bias-Varianz-Zerlegung der linearen Regression

In 'Die Elemente des statistischen Lernens' wird der Ausdruck für die Bias-Varianz-Zerlegung des linearen Modells gegeben als wobei die eigentliche Zielfunktion ist, die Varianz des Zufallsfehlers im Modell und ist der lineare Schätzer von .f ( x 0 ) σ 2 ε y = f ( x ) + εE.r …

9 regression linear-model bias-variance-tradeoff

2

Bias / Varianz-Kompromiss-Mathematik

Ich verstehe die Angelegenheit in den Begriffen Unteranpassung / Überanpassung, aber ich habe immer noch Schwierigkeiten , die genaue Mathematik dahinter zu verstehen . Ich habe mehrere Quellen überprüft ( hier , hier , hier , hier und hier ), aber ich verstehe immer noch nicht, warum sich Voreingenommenheit und …

8 unbiased-estimator mse bias-variance-tradeoff

3

Wenn mittlerer quadratischer Fehler = Varianz + Vorspannung ^ 2. Wie kann dann der mittlere quadratische Fehler niedriger als die Varianz sein?

Ich habe die Einführung in das statistische Lernen gelesen. Hier wird gezeigt, dass: - In einem späteren Beispiel werden der Zug und die Test-MSE aufgezeichnet. Ich wollte wissen, ob sowohl der Bias ^ 2 als auch die Varianz positive Größen sind, wie MSE dann niedriger sein kann als die Varianz.

7 regression mse training-error bias-variance-tradeoff

1

Wie wird festgestellt, dass ein Klassifikator eine hohe Verzerrung oder Varianz aufweist?

Die Verzerrung und Varianz eines Klassifikators bestimmt den Grad, in dem er die Daten unter- bzw. überanpassen kann. Wie könnte man einen Klassifikator bestimmen, der als hohe Verzerrung oder hohe Varianz charakterisiert werden soll? Ich bin mir ziemlich klar darüber, was ein Bias-Varianz-Kompromiss und seine Zerlegung ist und wie er …

7 machine-learning classification bias-variance-tradeoff

Als «bias-variance-tradeoff» getaggte Fragen