Als «regression» getaggte Fragen

Techniken zum Analysieren der Beziehung zwischen einer (oder mehreren) "abhängigen" Variablen und "unabhängigen" Variablen.

1
Definition der gewichteten kleinsten Quadratgewichte: R lm Funktion vs.
Kann mir jemand sagen, warum ich durch Rgewichtete kleinste Quadrate und manuelle Lösung durch Matrixoperation unterschiedliche Ergebnisse erhalte ? Insbesondere versuche ich, manuell zu lösen , wobei die Diagonalmatrix für Gewichte ist, die Datenmatrix ist, die Antwort ist Vektor. WAx=WbWAx=Wb\mathbf W \mathbf A\mathbf x=\mathbf W \mathbf bWW\mathbf WAA\mathbf Abb\mathbf b …



2
Warum werden Informationskriterien (nicht angepasstes
In Zeitreihenmodellen wie ARMA-GARCH werden zur Auswahl einer geeigneten Verzögerung oder Reihenfolge des Modells verschiedene Informationskriterien wie AIC, BIC, SIC usw. verwendet. Meine Frage ist sehr einfach: Warum verwenden wir nicht angepasstes , um ein geeignetes Modell auszuwählen? Wir können ein Modell auswählen, das zu einem höheren Wert des angepassten …

1
Datenraum, variabler Raum, Beobachtungsraum, Modellraum (zB in linearer Regression)
Angenommen, wir haben die Datenmatrix , die mal- , und den Markierungsvektor , der mal-eins ist. Hier ist jede Zeile der Matrix eine Beobachtung, und jede Spalte entspricht einer Dimension / Variablen. ( annehmen )XX\mathbf{X}nnnpppYYYn > pnnnn>pn>pn>p Und was tun data space, variable space, observation space, model spacebedeuten? Ist der …

2
Was ist der Unterschied zwischen diesen beiden Breusch-Pagan-Tests?
Wenn ich R für einige Daten verwende und versuche festzustellen, ob meine Daten heteroskedastisch sind oder nicht, habe ich zwei Implementierungen des Breusch-Pagan-Tests gefunden, bptest (Paket lmtest) und ncvTest (Paketauto). Diese führen jedoch zu unterschiedlichen Ergebnissen. Was ist der Unterschied zwischen den beiden? Wann sollten Sie sich für das eine …

4
Interpretation des AIC-Wertes
Typische AIC-Werte, die ich für Logistikmodelle gesehen habe, sind Tausende, mindestens Hunderte. zB auf http://www.r-bloggers.com/how-to-perform-a-logistic-regression-in-r/ beträgt der AIC 727,39 Während immer gesagt wird, dass AIC nur zum Vergleichen von Modellen verwendet werden sollte, wollte ich verstehen, was ein bestimmter AIC-Wert bedeutet. Gemäß der Formel ist A ichC.= - 2 log( …

1
Sind Konturen interessante Merkmale einer Funktion die durch Regression erhalten werden?
Ich von einem allgemeinen Regressionsaufbau aus, einer stetigen Funktion wird aus einer Familie , um den gegebenen Daten ( kann ein beliebiger Raum wie Würfel oder tatsächlich ein vernünftiger topologischer Raum sein) nach einigen natürlichen Kriterien.hθ:X→Rnhθ:X→Rnh_\theta:X\to \mathbb R^n{hθ}θ{hθ}θ\{h_\theta\}_\theta(xi,yi)∈X×Rn,i=1,…,k(xi,yi)∈X×Rn,i=1,…,k(x_i,y_i)\in X\times \mathbb R^n, i=1,\ldots, kXXX[0,1]m[0,1]m[0,1]^m Gibt es Regressionsanwendungen, bei denen man an …

1
Original (?) Modellauswahl mit k-fachem Lebenslauf
Wenn ich einen k-fachen CV zur Auswahl unter Regressionsmodellen verwende, berechne ich normalerweise den CV-Fehler für jedes Modell separat zusammen mit seinem Standardfehler SE und wähle das einfachste Modell innerhalb von 1 SE des Modells mit dem niedrigsten CV-Fehler (der 1) aus Standardfehlerregel, siehe zum Beispiel hier ). Kürzlich wurde …


1
Lineare Regression mit Laplace-Fehlern
Betrachten Sie ein lineares Regressionsmodell: yi=xi⋅β+εi,i=1,…,n,yi=xi⋅β+εi,i=1,…,n, y_i = \mathbf x_i \cdot \boldsymbol \beta + \varepsilon _i, \, i=1,\ldots ,n, wobei εi∼L(0,b)εi∼L(0,b)\varepsilon _i \sim \mathcal L(0, b) , das heißt , Laplace-Verteilung mit 000 Mittelwert und bbb Skalenparameter sind alle voneinander unabhängig. Betrachten Sie eine maximale Wahrscheinlichkeitsschätzung des unbekannten Parameters ββ\boldsymbol …

1
Warum können lineare und logistische Regressionskoeffizienten nicht mit derselben Methode geschätzt werden?
Ich habe in einem Buch über maschinelles Lernen gelesen, dass Parameter der linearen Regression (unter anderem) durch Gradientenabstieg geschätzt werden können, während Parameter der logistischen Regression normalerweise durch Schätzung der maximalen Wahrscheinlichkeit geschätzt werden. Ist es möglich, einem Neuling (mir) zu erklären, warum wir unterschiedliche Methoden für die lineare / …

3
Was ist dieser Bias-Varianz-Kompromiss für Regressionskoeffizienten und wie kann er abgeleitet werden?
In diesem ( Bayesianische Inferenz für Varianzkomponenten, die nur Fehlerkontraste verwenden , Harville, 1974) behauptet der Autor als "bekannt" Beziehung ", für eine lineare Regression wobei y = X β(y−Xβ)′H−1(y−Xβ)=(y−Xβ^)′H−1(y−Xβ^)+(β−β^)′(X′H−1X)(β−β^)(y−Xβ)′H−1(y−Xβ)=(y−Xβ^)′H−1(y−Xβ^)+(β−β^)′(X′H−1X)(β−β^)(y-X\beta)'H^{-1}(y-X\beta)=(y-X\hat\beta)'H^{-1}(y-X\hat\beta)+(\beta-\hat\beta)'(X'H^{-1}X)(\beta-\hat\beta)ϵ ∼ N ( 0 , H ) .y=Xβ+ϵ,y=Xβ+ϵ,y=X\beta+\epsilon,ϵ∼N(0,H).ϵ∼N(0,H).\epsilon\sim\mathcal{N}(0, H). Wie ist das bekannt? Was ist der einfachste Weg, dies zu …


1
Wann werden unsachgemäße lineare Modelle robust schön?
Fragen: Werden in der Praxis falsche lineare Modelle verwendet oder werden sie von Zeit zu Zeit in wissenschaftlichen Fachzeitschriften beschrieben? Wenn ja, in welchen Bereichen werden sie eingesetzt? Gibt es andere Beispiele für solche Modelle? Schließlich wären Standardfehler, Werte, usw., die OLS für solche Modelle entnommen wurden, korrekt oder sollten …

Durch die Nutzung unserer Website bestätigen Sie, dass Sie unsere Cookie-Richtlinie und Datenschutzrichtlinie gelesen und verstanden haben.
Licensed under cc by-sa 3.0 with attribution required.