Statistiken und Big Data regression

1

Können Sie eine einfache intuitive Erklärung der IRLS-Methode zum Ermitteln der MLE eines GLM geben?

Hintergrund: Ich versuche, Princetons Überprüfung der MLE-Schätzung für GLM zu folgen . Verstehe ich die Grundlagen der MLE Schätzung: likelihood, score, beobachteten und erwarteten Fisher informationund die Fisher scoringTechnik. Und ich weiß, wie man eine einfache lineare Regression mit einer MLE-Schätzung rechtfertigt . Die Frage: Ich kann nicht einmal die …

12 regression generalized-linear-model maximum-likelihood link-function irls

1

GBM-Paket vs. Caret mit GBM

Ich habe das Modell mit optimiert caret, aber dann das Modell mit dem gbmPaket erneut ausgeführt. Nach meinem Verständnis sollten das verwendete caretPaket gbmund die Ausgabe identisch sein. Nur ein kurzer Testlauf mit data(iris)zeigt jedoch eine Diskrepanz im Modell von etwa 5% unter Verwendung von RMSE und R ^ 2 …

12 r caret gbm matrix linear-algebra logistic modeling logit ordered-logit r confidence-interval survival population weibull classification separation hypothesis-testing correlation statistical-significance p-value python r data-visualization r regression multiple-regression chi-squared multivariate-analysis distributions random-variable experiment-design distributions poisson-regression residuals excel time-series garch var survival modeling cox-model interaction r pca normality-assumption

3

Moderierte Regression: Warum berechnen wir einen * Produktterm * zwischen den Prädiktoren?

Moderierte Regressionsanalysen werden in den Sozialwissenschaften häufig verwendet, um die Interaktion zwischen zwei oder mehr Prädiktoren / Kovariaten zu bewerten. In der Regel wird bei zwei Prädiktorvariablen das folgende Modell angewendet: Y=β0+β1∗X+β2∗M+β3∗XM+eY=β0+β1∗X+β2∗M+β3∗XM+eY = β_0 + β_1*X + β_2*M + β_3*XM + e Beachten Sie, dass der Moderationstest durch den Produktbegriff …

12 regression interaction

1

Intuition für die Freiheitsgrade des LASSO

Zou u.a. "Auf den" Freiheitsgraden "des Lassos" (2007) zeigen, dass die Anzahl der Koeffizienten ungleich Null eine unvoreingenommene und konsistente Schätzung für die Freiheitsgrade des Lassos ist. Es scheint mir ein wenig eingängig zu sein. Angenommen, wir haben ein Regressionsmodell (wobei die Variablen den Mittelwert Null haben). y=βx+ε.y=βx+ε.y=\beta x + …

12 regression lasso degrees-of-freedom shrinkage

3

Was ist ein Beispiel für perfekte Multikollinearität?

Was ist ein Beispiel für perfekte Kollinearität in Bezug auf die Entwurfsmatrix ?XXX Ich hätte gerne ein Beispiel, in dem nicht geschätzt werden kann, weil nicht invertierbar ist.β^=(X′X)−1X′Yβ^=(X′X)−1X′Y\hat \beta = (X'X)^{-1}X'Y(X′X)(X′X)(X'X)

12 regression multicollinearity matrix matrix-inverse

3

Bedeutet die Annahme von normalen Fehlern, dass Y auch normal ist?

Wenn ich mich nicht irre, wird in einem linearen Modell angenommen, dass die Verteilung der Antwort eine systematische und eine zufällige Komponente aufweist. Der Fehlerbegriff erfasst die zufällige Komponente. Wenn wir also davon ausgehen, dass der Fehlerterm normalverteilt ist, bedeutet das dann nicht, dass die Antwort auch normalverteilt ist? Ich …

12 regression assumptions

1

Wie gehe ich mit Überdispersion in der Poisson-Regression um: Quasi-Wahrscheinlichkeit, negativer binomialer GLM oder zufälliger Effekt auf Subjektebene?

Ich habe drei Vorschläge zur Behandlung der Überdispersion in einer Poisson-Antwortvariablen und einem Startmodell mit allen festen Effekten gefunden: Verwenden Sie ein Quasi-Modell. Verwenden Sie negatives Binomial-GLM. Verwenden Sie ein gemischtes Modell mit einem zufälligen Effekt auf Subjektebene. Aber was soll man eigentlich wählen und warum? Gibt es ein tatsächliches …

12 regression negative-binomial poisson-regression overdispersion quasi-likelihood

2

Wann ist eine logistische Regression sinnvoll?

Ich unterrichte mich derzeit selbst in der Klassifizierung und beschäftige mich speziell mit drei Methoden: Unterstützung von Vektormaschinen, neuronalen Netzwerken und logistischer Regression. Ich versuche zu verstehen, warum die logistische Regression jemals besser abschneiden würde als die beiden anderen. Nach meinem Verständnis der logistischen Regression besteht die Idee darin, eine …

12 regression machine-learning logistic classification regression-strategies

2

Regression, wenn jeder Punkt sowohl in

Ich habe nnn Messungen mit zwei Variablen und . Sie haben beide bekannte Unsicherheiten und die mit ihnen verbunden sind. Ich möchte die Beziehung zwischen x und y finden . Wie kann ich es tun?y σ xxxxyyyσxσx\sigma_xσyσy\sigma_yxxxyyy BEARBEITEN : Mit jedem ist ein anderes und mit dem dasselbe .xixix_i y …

12 r regression deming-regression

1

Wie lassen sich Proportionen am besten transformieren, wenn sie eine unabhängige Variable sind?

Ich dachte, ich hätte dieses Problem verstanden, aber jetzt bin ich mir nicht so sicher und würde es gerne mit anderen klären, bevor ich fortfahre. Ich habe zwei Variablen Xund Y. Yist ein Verhältnis, und es ist nicht durch 0 und 1 begrenzt und ist im Allgemeinen normalverteilt. Xist ein …

12 r regression data-transformation nonlinear-regression proportion

2

Schlecht konditionierte Kovarianzmatrix in der GP-Regression zur Bayes'schen Optimierung

Hintergrund und Problem Ich verwende Gaußsche Prozesse (GP) zur Regression und anschließenden Bayes'schen Optimierung (BO). Für die Regression verwende ich das gpml- Paket für MATLAB mit mehreren benutzerdefinierten Modifikationen, aber das Problem ist allgemein. Es ist eine bekannte Tatsache, dass, wenn zwei Trainingseingaben im Eingaberaum zu nahe beieinander liegen, die …

12 regression covariance-matrix gaussian-process bayesian-optimization

1

Erwarteter Wert von

Ich bin neugierig auf die Erklärung am Ende der ersten Seite in diesem Text in Bezug auf die R2adjustedRadjusted2R^2_\mathrm{adjusted} Einstellung R2adjusted=1−(1−R2)(n−1n−m−1).Radjusted2=1−(1−R2)(n−1n−m−1).R^2_\mathrm{adjusted} =1-(1-R^2)\left({\frac{n-1}{n-m-1}}\right). Der Text besagt: Die Logik der Anpassung lautet wie folgt: Bei der gewöhnlichen multiplen Regression erklärt ein Zufallsvorhersagefaktor im Durchschnitt ein Verhältnis m1/(n–1)1/(n–1)1/(n – 1) der Variation der …

12 regression expected-value goodness-of-fit r-squared

4

Hinweise darauf, dass ein Problem für die lineare Regression gut geeignet ist

Ich lerne die lineare Regression mithilfe der Einführung in die lineare Regressionsanalyse von Montgomery, Peck und Vining . Ich möchte ein Datenanalyseprojekt auswählen. Ich habe den naiven Gedanken, dass eine lineare Regression nur dann geeignet ist, wenn man vermutet, dass es lineare funktionale Beziehungen zwischen erklärenden Variablen und der Antwortvariablen …

12 regression data-transformation model linear regression-strategies

2

Das Problem des maschinellen Lernens in einen Regressionsrahmen übersetzen

Angenommen, ich habe eine Gruppe von erklärenden Variablen für i = 1 . . . N , t = 1 . . . T sowie ein Vektor von binären Ergebnis abhängigen Variablen Y i T . So Y wird erst in der letzten Zeit beobachtet T und nicht zu einem …

12 regression machine-learning reinforcement-learning

3

Warum wird die Holdout-Methode (Aufteilen von Daten in Training und Test) in der klassischen Statistik nicht verwendet?

In meinem Unterricht wurde die Holdout-Methode eingeführt, um die Modellleistung zu bewerten. Als ich meinen ersten Kurs über lineare Modelle belegte, wurde dies jedoch nicht als Mittel zur Modellvalidierung oder -bewertung eingeführt. Meine Online-Recherche zeigt auch keinerlei Schnittmenge. Warum wird die Holdout-Methode in der klassischen Statistik nicht verwendet?

12 regression validation model-evaluation out-of-sample

Als «regression» getaggte Fragen