Regression durch den Ursprung

Wir haben die folgenden Punkte: Wie können wir die am besten passende Linie durch die Punkte finden? Mein Rechner hat die Option, die am besten passende Linie durch diese Punkte zu finden, nämlich:

(0, 0) (1, 51.8) (1.9, 101.3) (2.8, 148.4) (3.7, 201.5) (4.7, 251.1) (5.6, 302.3) (6.6, 350.9) (7.5, 397.1) (8.5, 452.5) (9.3, 496.3)

$(0,0)(1,51.8)(1.9,101.3)(2.8,148.4)(3.7,201.5)(4.7,251.1) \\ (5.6,302.3)(6.6,350.9)(7.5,397.1)(8.5,452.5)(9.3,496.3)$

y = a x

$y=ax$

y = a x + b

$y=ax+b$

y = 53.28 x + 0.37

$y = 53.28x + 0.37$

Wie finde ich die am besten passende ? Es scheint mir, dass wir die nicht einfach entfernen können, ohne die ? $y=ax$ $0.37$ $a$

regression intercept

— Edward Harrison
quelle

Gibt es einen Grund, warum Sie wollen? Das Unterdrücken des Achsenabschnitts führt zu einem verzerrten Modell, es sei denn, der Achsenabschnitt ist genau null bis unendlich dezimal. Selbst dann gewinnen Sie nicht viel Effizienz.

— Gung - Reinstate Monica

Dies sind Ergebnisse eines physikalischen Experiments. Wenn es einen y-Achsenabschnitt hat, würde dies zu völlig falschen Dingen führen.

— Edward Harrison

@gung Würde das bedeuten, dass wir nur die entfernen ?

0.37

$0.37$

— Edward Harrison

"Unterdrücken des Abschnitts" bedeutet nicht einfach das Löschen der Schätzung aus Ihrem Modell, sondern das Anpassen eines Modells über eine andere Formel, die die Linie zwingt, durch den Ursprung zu gehen.

— Gung - Reinstate Monica

"Physik-Experiment. [...] y-Achsenabschnitt [...] würde zu völlig falschen Dingen führen." Wenn die experimentellen Daten jedoch auf einen Achsenabschnitt hinweisen (übrigens können Sie überprüfen, ob das Konfidenzintervall für die Linie den Ursprung abdeckt), würde ich sehr genau überlegen, woher der Achsenabschnitt stammt. Ich bin analytischer Chemiker. In der analytischen Chemie gibt es auch eine Reihe von Beziehungen, die ohne Unterbrechung linear sein sollten . Aufgrund der Details von Instrumenten und Messungen sind sie jedoch kaum in der Praxis. Daher sehen wir das Unterdrücken des Abfangens normalerweise als eine sehr schlechte Idee an.

— cbeleites unglücklich mit SX

Antworten:

Die Schätzung der gewöhnlichen kleinsten Quadrate der Steigung, wenn der Achsenabschnitt unterdrückt wird, lautet:

\hat{β} = \frac{\sum_{i = 1}^{N} x_{i} y_{i}}{\sum_{i = 1}^{N} x_{i}^{2}}

$\hat{\beta}=\frac{\sum_{i=1}^N x_iy_i}{\sum_{i=1}^N x_i^2}$

— gung - Monica wieder einsetzen
quelle

@gung hat die OLS-Schätzung gegeben. Das haben Sie gesucht.

Wenn es sich jedoch um physikalische Größen handelt, bei denen die Linie durch den Ursprung verlaufen muss, ist es üblich, dass die Skala des Fehlers mit den x-Werten variiert (um ungefähr einen konstanten relativen Fehler zu haben). In dieser Situation wären gewöhnliche ungewichtete kleinste Quadrate unangemessen.

In dieser Situation besteht ein Ansatz (mit mehreren Möglichkeiten) darin, Protokolle zu erstellen, die x von den y zu subtrahieren und die logarithmische Steigung (der ursprünglichen Variablen) durch den Mittelwert der Differenzen zu schätzen.

Alternativ könnten gewichtete kleinste Quadrate verwendet werden. Im Falle eines konstanten relativen Fehlers würde sich die Verwendung des Schätzers (der Durchschnitt) reduzieren aller Hänge durch den Ursprung). $\hat{\beta}=\frac{1}{N}\sum_{i=1}^N \frac{y_i}{x_i}$

Es gibt andere Ansätze (z. B. GLMs), aber wenn Sie dies auf einem Taschenrechner tun, würde ich mich meinem ersten Vorschlag zuwenden.

Sie sollten auch die Angemessenheit aller von Ihnen getroffenen Annahmen berücksichtigen.

Ich dachte, es könnte lehrreich sein, die Ableitung der WLS-Linie durch den Ursprung hinzuzufügen, und dann sind mein "Durchschnitt der Steigungen" und Gungs-OLS Sonderfälle:

Das Modell ist wobei $y_i=\beta x_i+\varepsilon_i\,,$ $\text{Var}(\varepsilon_i)=w_i\sigma^2$

Wir wollen minimieren $S = \sum_i w_i(y_i-\beta x_i)^2$

$\frac{\partial S}{\partial \beta} = -\sum_i 2x_i.w_i(y_i-\beta x_i)$

Wenn wir gleich Null setzen, um die LS-Lösung , erhalten wir oder . $\hat{\beta}$ $\sum w_ix_iy_i = \hat{\beta} \sum w_ix_i^2$ $\hat{\beta}=\frac{\sum w_ix_iy_i}{\sum w_ix_i^2}$

Wenn für alle , ergibt dies die OLS-Lösung von gung. $w_i\propto 1$ $i$

Wenn (was für den Fall optimal ist, in dem die Streuung mit dem Mittelwert zunimmt), ergibt dies die obige Lösung "Durchschnitt der Steigungen". $w_i \propto 1/x_i^2$

— Glen_b -Reinstate Monica
quelle