Statistiken und Big Data

1

CCA durchführen vs. eine abhängige Variable mit PCA erstellen und dann Regression durchführen

Bei zwei mehrdimensionalen Datensätzen, und , führen einige Personen eine multivariable Analyse durch, indem sie mithilfe der Hauptkomponentenanalyse (PCA) eine ersatzabhängige Variable erstellen. Das heißt, führen Sie PCA auf Set aus, nehmen Sie Scores entlang der ersten Komponente und führen Sie eine multiple Regression dieser Scores auf : . (Ich …

9 regression multiple-regression pca canonical-correlation

2

Bedingte Verteilung einer einheitlichen Zufallsvariablen bei gegebener Auftragsstatistik

Ich habe folgende Frage zur Hand: Angenommen, U,VU,VU,V sind iid Zufallsvariablen nach Unif (0,1)(0,1)(0,1) . Was ist die bedingte Verteilung von UUU bei Z:=max(U,V)Z:=max(U,V)Z:=\max(U,V) ? Ich habe versucht, Z = \ Bbb {I} \ cdot V + (1- \ Bbb {I}) \ cdot U zu schreiben, Z=I⋅V+(1−I)⋅UZ=I⋅V+(1−I)⋅UZ=\Bbb{I}\cdot V+(1-\Bbb{I})\cdot Uwobei I={10U<VU>VI={1U<V0U>V\Bbb{I}=\begin{cases}1&U;V\end{cases} …

9 probability distributions uniform conditioning

1

Reichen frühes Stoppen und Abbrechen aus, um die überwiegende Mehrheit der tiefen neuronalen Netze in der Praxis zu regulieren?

Es gibt so viele Regularisierungstechniken, dass es nicht praktisch ist, alle Kombinationen auszuprobieren: l1 / l2 max norm aussteigen frühes Anhalten ... Es scheint, dass die meisten Menschen mit einer Kombination aus Ausfall und frühem Abbruch zufrieden sind: Gibt es Fälle, in denen die Verwendung anderer Techniken sinnvoll ist? Wenn …

9 neural-networks regularization dropout

2

Warum multiplizieren sich hier die Wahrscheinlichkeitsverteilungen?

Sei zum Beispiel die Anzahl der verbleibenden Tage. Ein Arzt 1 bewertet die Verteilung von als Gauß: . Ein anderer unabhängiger Arzt 2 bewertet . Beide Ärzte sind gleichermaßen zuverlässig. Wie kombiniere ich beide Informationen?XXXXXXP(X)∼N(μ1,σ1)P(X)∼N(μ1,σ1)P(X)\sim\mathcal{N}(\mu_1,\sigma_1)P(X)∼N(μ2,σ2)P(X)∼N(μ2,σ2)P(X)\sim\mathcal{N}(\mu_2,\sigma_2) In diesem Blog-Artikel sagt der Autor das Wenn wir zwei Wahrscheinlichkeiten haben und die Chance …

9 probability normal-distribution

2

Varianz des Maximums der Gaußschen Zufallsvariablen

Wenn Zufallsvariablen aus , definieren Sie X1,X2,⋯,XnX1,X2,⋯,XnX_1,X_2, \cdots, X_n∼N(0,σ2)∼N(0,σ2)\sim \mathcal{N}(0, \sigma^2)Z=maxi∈{1,2,⋯,n}XiZ=maxi∈{1,2,⋯,n}XiZ = \max_{i \in \{1,2,\cdots, n \}} X_i Wir haben das E[Z]≤σ2logn−−−−−√E[Z]≤σ2log⁡n\mathbb{E}[Z] \le \sigma \sqrt{2 \log n} . Ich habe mich gefragt, ob es Ober- / Untergrenzen für Var(Z)Var(Z)\text{Var}(Z) .

9 probability normal-distribution mathematical-statistics variance

2

Ist die Summe zweier Variablen unabhängig von einer dritten Variablen, wenn sie für sich genommen so sind?

Angesichts 3 Zufallsvariablen , und . und sind unabhängig. und sind unabhängig. Intuitiv würde ich annehmen, dass und unabhängig sind. Ist dies der Fall und wie kann ich es formal beweisen?X1X.1X_1X2X.2X_2YY.YYY.YX1X.1X_1YY.YX2X.2X_2YY.YX1+X2X.1+X.2X_1+X_2

9 independence

1

Welche Beziehung besteht zwischen der Funktion

Betrachten Sie die Funktion r(x)=E(Y∣X=x)r(x)=E(Y∣X=x) r(x) = \mathbb{E}(Y \mid X = x) Dies wurde in einem von mir verwendeten Lehrbuch als Regressionsfunktion bezeichnet . Ich versuche, die Beziehung zwischen dieser Funktion und dem klassischen linearen Regressionsmodell herauszufinden. Ich weiß also, dass es ein Satz * ist, den wir schreiben dürfen …

9 regression linear-model

2

Rao-Blackwellization von Gibbs Sampler

Ich schätze derzeit ein stochastisches Volatilitätsmodell mit Markov-Ketten-Monte-Carlo-Methoden. Dabei implementiere ich Gibbs- und Metropolis-Stichprobenverfahren. Angenommen, ich nehme eher den Mittelwert der posterioren Verteilung als eine Zufallsstichprobe daraus. Wird dies allgemein als Rao-Blackwellization bezeichnet ? Insgesamt würde dies dazu führen, dass der Mittelwert über die Mittelwerte der posterioren Verteilungen als Parameterschätzung …

9 mcmc monte-carlo gibbs point-estimation rao-blackwell

1

Beziehung zwischen Perzentil und Konfidenzintervall (im Mittel)

Diese Frage tauchte bei der Arbeit auf, als mich jemand fragte, wie die Beziehung zwischen einem Perzentil und einem Konfidenzintervall sei, und es mir sehr schwer fiel, meine Gedanken zu artikulieren. Der Kontext war eine sehr einfache Frage bezüglich der Schätzung eines 95% -Konfidenzintervalls für einen Stichprobenmittelwert. Ich verstehe, dass …

9 confidence-interval quantiles mean

3

Hypothesentest. Warum die Stichprobenverteilung auf H0 zentrieren?

Ein p-Wert ist die Wahrscheinlichkeit, eine Statistik zu erhalten, die mindestens so extrem ist wie die in den Probendaten beobachtete, wenn angenommen wird, dass die Nullhypothese ( ) wahr ist.H0H0H_0 Grafisch entspricht dies dem Bereich, der durch die Stichprobenstatistik unter der Stichprobenverteilung definiert ist, die man erhalten würde, wenn man …

9 hypothesis-testing confidence-interval p-value

2

Verwendung von MSE anstelle von Protokollverlust bei der logistischen Regression

Angenommen, wir ersetzen die Verlustfunktion der logistischen Regression (die normalerweise logarithmisch wahrscheinlich ist) durch die MSE. Das heißt, das logarithmische Quotenverhältnis muss immer noch eine lineare Funktion der Parameter sein, aber die Summe der quadratischen Differenzen zwischen der geschätzten Wahrscheinlichkeit und dem Ergebnis (codiert als 0/1) minimieren: Logp1 - p= …

9 logistic maximum-likelihood unbiased-estimator mse

1

Protokollwahrscheinlichkeit interpretieren

Ich habe Schwierigkeiten, einige Ergebnisse zu interpretieren. Ich mache eine hierarchisch verwandte Regression mit ecoreg. Wenn ich den Code eingebe, erhalte ich eine Ausgabe mit Quotenverhältnissen, Konfidenzverhältnissen und einer 2x maximierten Log-Wahrscheinlichkeit. Ich verstehe jedoch nicht vollständig, wie die 2x maximierte Protokollwahrscheinlichkeit zu interpretieren ist. Soweit ich weiß, wird die …

9 r interpretation

1

Beweis der Wahrscheinlichkeitsintegraltransformation ohne Annahme, dass die CDF streng ansteigt

Ich weiß, dass der Beweis für die Wahrscheinlichkeitsintegraltransformation auf dieser Site mehrfach gegeben wurde. Die Beweise, die ich gefunden habe, verwenden jedoch die Hypothese, dass der CDF FX(x)FX(x)F_X(x) streng zunimmt (natürlich zusammen mit der Hypothese, dass XXX eine kontinuierliche Zufallsvariable ist). Ich weiß, dass die einzig erforderliche Hypothese tatsächlich ist, …

9 probability cdf

3

Was ist der Unterschied zwischen

Angenommen , ich habe eine Stichprobe .{ xn, yn}}N.n = 1{xn,yn}}n=1N.\lbrace x_n ,y_n \rbrace_{n=1}^N Angenommen,yn= β0+ β1xn+ εnyn=β0+β1xn+εny_n = \beta_0 + \beta_1 x_n + \varepsilon_n undy^n= β^0+ β^1xny^n=β^0+β^1xn\hat{y}_n = \hat{\beta}_0 +\hat{\beta}_1 x_n Was ist der Unterschied zwischen und ?β1β1\beta_1β^1β^1\hat{\beta}_1

9 regression

1

LASSO-Regularisierungsparameter vom LARS-Algorithmus

In ihrer wegweisenden Arbeit 'Least Angle Regression' beschreiben Efron et al. Eine einfache Modifikation des LARS-Algorithmus, mit der vollständige LASSO-Regularisierungspfade berechnet werden können. l1l1l_1∥β∥1‖β‖1\Vert \beta \Vert_1 Es scheint jedoch, dass die meisten verfügbaren Pakete den Regularisierungspfad in Bezug auf den LASSO-Bestrafungskoeffizienten bereitstellen (z. B. LARS in R, wo Sie mit …

9 regression lasso regularization lars