Was ist der Unterschied zwischen

Angenommen , ich habe eine Stichprobe .$\lbrace x_n ,y_n \rbrace_{n=1}^N$

Angenommen,

$$y_n = \beta_0 + \beta_1 x_n + \varepsilon_n$$

und

$$\hat{y}_n = \hat{\beta}_0 +\hat{\beta}_1 x_n$$

Was ist der Unterschied zwischen und ?$\beta_1$$\hat{\beta}_1$

ist eine Idee - sie existiert in der Praxis nicht wirklich. Wenn jedoch die Gauß-Markov-Annahme zutrifft, würde β 1 Ihnen diese optimale Steigung mit Werten darüber und darunter auf einer vertikalen "Schicht" vertikal zur abhängigen Variablen geben, die eine schöne normale Gaußsche Verteilung der Residuen bildet. Β 1 ist die Schätzung von β 1 auf der Probe berechnet.$\beta_1$$\beta_1$$\hat \beta_1$$\beta_1$

Die Idee ist, dass Sie mit einer Stichprobe aus einer Population arbeiten. Ihre Probe bildet eine Datenwolke, wenn Sie so wollen. Eine der Dimensionen entspricht der abhängigen Variablen, und Sie versuchen, die Linie anzupassen, die die Fehlerterme minimiert. In OLS ist dies die Projektion der abhängigen Variablen auf den Vektorunterraum, der durch den Spaltenraum der Modellmatrix gebildet wird. Diese Schätzungen der Populationsparameter werden mit dem bezeichneten β - Symbol. Je mehr Datenpunkte Sie haben desto genauer sind die geschätzten Koeffizienten, β i sind, und desto besser ist die Abschätzung dieser idealisierten Population Koeffizienten, β i .$\hat \beta$$\hat \beta_i$$\beta_i$

Hier ist der Unterschied in den Steigungen ( gegenüber β ) zwischen der „Population“ in blau, und die Probe in isolierten schwarzen Punkten:$\beta$$\hat \beta$

Die Regressionslinie ist gepunktet und schwarz, während die synthetisch perfekte "Populations" -Linie durchgehend blau ist. Die Fülle an Punkten vermittelt ein taktiles Gefühl für die Normalität der Residuenverteilung.

Das "Hut" -Symbol bezeichnet im Allgemeinen eine Schätzung im Gegensatz zum "wahren" Wert. Daher β ist eine Schätzung von β . Einige Symbole haben ihre eigenen Konventionen: die Stichprobenvarianz zum Beispiel oft als geschrieben s 2 , nicht σ 2 , obwohl einige Leute benutzen beide zwischen voreingenommen und unverzerrte Schätzungen zu unterscheiden.$\hat{\beta}$$\beta$$s^2$$\hat{\sigma}^2$

In Ihrem speziellen Fall ist die β sind Werte , Parameterschätzungen für ein lineares Modell. Das lineare Modell nimmt an, dass die Ergebnisvariable Y durch eine lineare Kombination der x i s erzeugt wird, die jeweils mit dem entsprechenden β i -Wert gewichtet sind . In der Praxis sind diese β- Werte natürlich unbekannt und existieren möglicherweise nicht einmal (möglicherweise werden die Daten nicht durch ein lineares Modell erzeugt). Dennoch können wir abschätzen , β - Werte aus den Daten , die ungefähre Y .$\hat{\beta}$$Y$$x_i$$\beta_i$$\beta$$\hat{\beta}$$Y$

Die Gleichung

$$y_i = \beta_0 + \beta_1 x_i + \epsilon_i$$

$x$$y$$y = \beta_0 + \beta_1x$$\epsilon_i$$x$$y$$x$$y$$x$$y$

$$y_i = 4 + 3x_i + \epsilon_i$$

$\beta_0 = 4$$\beta_1$$\beta_0$$\hat{\beta}_0$$\beta_1$$\hat{\beta}_1$. Je nachdem, welche statistischen Methoden verwendet werden, können die Schätzungen sehr unterschiedlich sein. In der Regressionseinstellung werden die Schätzungen über eine Methode namens Ordinary Least Squares erhalten. Dies wird auch als Methode der Linie der besten Anpassung bezeichnet. Grundsätzlich müssen Sie die Linie zeichnen, die am besten zu den Daten passt. Ich spreche hier nicht über Formeln, aber wenn Sie die Formel für OLS verwenden, erhalten Sie

$$\hat{\beta}_0 = 4.809 \quad \text{ and } \quad \hat{\beta}_1 = 2.889$$

und die resultierende Linie der besten Anpassung ist,

$x =$$y$

$\beta$$y$$x$$y$$x$ $\beta$$\hat{\beta}$$\beta$