Statistiken und Big Data

2

Wenn die Summe der Wahrscheinlichkeiten von Ereignissen gleich der Wahrscheinlichkeit ihrer Vereinigung ist, bedeutet dies, dass die Ereignisse disjunkt sind?

Axiomatisch ist die Wahrscheinlichkeit eine Funktion , die jedem Ereignis A eine reelle Zahl P ( A ) zuweist, wenn sie die drei Grundannahmen erfüllt (Kolmogorovs Annahmen):PPPP(A)P(A)P(A)AAA P(A)≥0 for everyAP(A)≥0 for everyAP(A) \geq 0 \ \text{for every} A P(Ω)=1P(Ω)=1P(\Omega) = 1 If A1,A2,⋯are disjoint, thenP(⋃∞i=1Ai)=∑i=1∞P(Ai)If A1,A2,⋯are disjoint, thenP(⋃i=1∞Ai)=∑i=1∞P(Ai)\text{If} \ A_1, …

10 probability kolmogorov-axioms

2

Warum wird ein Schätzer als Zufallsvariable betrachtet?

Mein Verständnis davon, was ein Schätzer und eine Schätzung ist: Schätzer: Eine Regel zur Berechnung einer Schätzung Schätzung: Der Wert, der aus einem Datensatz berechnet wird, der auf dem Schätzer basiert Wenn ich zwischen diesen beiden Begriffen aufgefordert werde, auf die Zufallsvariable hinzuweisen, würde ich sagen, dass die Schätzung die …

10 mathematical-statistics inference random-variable estimators

3

Methoden zur Initialisierung der K-Mittel-Clusterbildung

Ich interessiere mich für den aktuellen Stand der Technik bei der Auswahl von Ausgangssamen (Cluster-Zentren) für K-Mittel. Googeln führt zu zwei beliebten Optionen: zufällige Auswahl der Ausgangssamen und unter Verwendung der KMeans ++ - Auswahlmethode: Arthur & Vassilvitskii 2006 k-means ++: Die Vorteile einer sorgfältigen Aussaat Gibt es andere vielversprechende …

10 clustering k-means

2

B-Splines VS Polynome hoher Ordnung in der Regression

Ich habe kein bestimmtes Beispiel oder keine bestimmte Aufgabe im Sinn. Ich bin gerade neu in der Verwendung von B-Splines und wollte diese Funktion im Regressionskontext besser verstehen. Nehmen wir an, wir wollen die Beziehung zwischen der Antwortvariablen und einigen Prädiktoren . Die Prädiktoren enthalten einige numerische Variablen sowie einige …

10 regression multiple-regression splines polynomial penalized

1

Ist der relative Kontrastsatz von Beyer et al. Papier: "Über das überraschende Verhalten von Distanzmetriken im hochdimensionalen Raum" irreführend?

Dies wird sehr oft zitiert, wenn der Fluch der Dimensionalität erwähnt wird und geht (rechte Formel genannt relativer Kontrast) limd→∞var(||Xd||kE[||Xd||k])=0,then:Dmaxkd−DminkdDminkd→0limd→∞var(||Xd||kE[||Xd||k])=0,then:Dmaxdk−DmindkDmindk→0 \lim_{d\rightarrow \infty} \text{var} \left(\frac{||X_d||_k}{E[||X_d||_k]} \right) = 0, \text{then}: \frac{D_{\max^{k}_{d}} - D_{\min^{k}_{d}}}{D_{\min^{k}_{d}}} \rightarrow 0 Das Ergebnis des Theorems zeigt, dass die Differenz zwischen dem maximalen und dem minimalen Abstand zu einem …

10 machine-learning distance-functions high-dimensional

2

Deckt Simpsons Paradox alle Fälle der Umkehrung von einer versteckten Variablen ab?

Das Folgende ist eine Frage zu den vielen Visualisierungen, die als "Beweis durch Bild" für die Existenz von Simpsons Paradox angeboten werden, und möglicherweise eine Frage zur Terminologie. Simpsons Paradoxon ist ein ziemlich einfaches Phänomen, das zu beschreiben und numerische Beispiele zu nennen ist (der Grund, warum dies passieren kann, …

10 mathematical-statistics data-visualization causality contingency-tables simpsons-paradox

1

Beweise für das Pitman-Koopman-Darmois-Theorem auf Bachelor-Ebene

Das Pitman-Koopman-Darmois-Theorem besagt, dass es sich um eine exponentielle Familie handelt, wenn eine iid-Stichprobe aus einer parametrisierten Familie von Wahrscheinlichkeitsverteilungen eine ausreichende Statistik zulässt, deren Anzahl skalarer Komponenten nicht mit der Stichprobengröße wächst. Geben Lehrbücher oder elementare Expository-Papiere Beweise? Warum ist es nach diesen drei Personen benannt?

10 mathematical-statistics references

2

Einfacher Beweis von ?

Sei unabhängige normale Standard-Zufallsvariablen. Es gibt viele (langwierige) Beweise, die das zeigenZ1,⋯,ZnZ1,⋯,ZnZ_1,\cdots,Z_n ∑i=1n(Zi−1n∑j=1nZj)2∼χ2n−1∑i=1n(Zi−1n∑j=1nZj)2∼χn−12 \sum_{i=1}^n \left(Z_i - \frac{1}{n}\sum_{j=1}^n Z_j \right)^2 \sim \chi^2_{n-1} Viele Beweise sind ziemlich lang und einige verwenden Induktion (z. B. Casella Statistical Inference). Ich frage mich, ob es einen einfachen Beweis für dieses Ergebnis gibt.

10 mathematical-statistics sampling

3

Wann kann ich eine Zufallsvariable nicht durch ihren Mittelwert ersetzen?

Eine häufige Vereinfachung bei der Modellierung und Simulation besteht darin, eine Zufallsvariable durch ihren Mittelwert zu ersetzen. Wann würde diese Vereinfachung zu einer falschen Schlussfolgerung führen?

10 modeling mean random-variable

6

Wie heißt "One-Hot" -Codierung in der wissenschaftlichen Literatur?

Wie heißt der Operator, der einen kategorialen Vektor nimmt und ihn mithilfe einer One-Hot-Codierung in die binäre Darstellung umwandelt? Ich frage mich, da ich eine wissenschaftliche Arbeit schreibe und dafür einen richtigen Namen brauche.

10 terminology categorical-encoding

1

Erhalten Sie die gemeinsame Verteilung aus der paarweisen Randverteilung

Angenommen, wir haben 3 Zufallsvariablen und kennen die paarweise Randverteilung , aber wir wissen nichts anderes (wie z als bedingte Unabhängigkeit). Können wir die gemeinsame Verteilung ?X1,X2,X3X1,X2,X3X_1,X_2,X_3P(X1,X2),P(X2,X3),P(X3,X1)P(X1,X2),P(X2,X3),P(X3,X1)P(X_1,X_2), P(X_2,X_3), P(X_3,X_1)P(X1,X2,X3)P(X1,X2,X3)P(X_1,X_2,X_3)

10 probability distributions

1

Welche Verlustfunktion sollte ich verwenden, um ein seq2seq RNN-Modell zu bewerten?

Ich arbeite an der Arbeit von Cho 2014 , in der die Encoder-Decoder-Architektur für die seq2seq-Modellierung vorgestellt wurde. In der Arbeit scheinen sie die Wahrscheinlichkeit der Ausgabe bei gegebener Eingabe (oder deren negative Log-Wahrscheinlichkeit) als Verlustfunktion für eine Eingabe der Länge und Ausgabe der Länge :xxxMMMyyyNNN P(y1,…,yN|x1,…,xM)=P(y1|x1,…,xm)P(y2|y1,x1,…,xm)…P(yN|y1,…,yN−1,x1,…,xm)P(y1,…,yN|x1,…,xM)=P(y1|x1,…,xm)P(y2|y1,x1,…,xm)…P(yN|y1,…,yN−1,x1,…,xm)P(y_1, …, y_N | …

10 deep-learning loss-functions rnn

2

Was sind einige der wichtigsten „frühen Arbeiten“ zu Regularisierungsmethoden?

In mehreren Antworten habe ich gesehen, dass CrossValidated-Benutzer OP vorschlagen, frühe Artikel über Lasso, Ridge und Elastic Net zu finden. Was sind für die Nachwelt die wegweisenden Arbeiten zu Lasso, Ridge und Elastic Net?

10 references lasso regularization ridge-regression elastic-net

2

Unterschied zwischen nicht informativen und unangemessenen Priors

Ich frage mich, was der Unterschied zwischen diesen beiden Arten von Priors ist: Nicht informativ Unsachgemäß

10 bayesian prior improper-prior

2

Warum ist die Steigung immer genau 1, wenn die Fehler auf den Residuen mit OLS zurückgeführt werden?

Ich habe mit der Beziehung zwischen den Fehlern und den Residuen mithilfe einiger einfacher Simulationen in R experimentiert. Eine Sache, die ich gefunden habe, ist, dass ich unabhängig von der Stichprobengröße oder der Fehlervarianz immer genau für die Steigung erhalte, wenn Sie das Modell anpassen111 errors∼β0+β1×residualserrors∼β0+β1×residuals {\rm errors} \sim \beta_0 …

10 regression least-squares residuals