Statistiken und Big Data

2

Ich habe eine Frage, wie ich die Standardfehler der Koeffizienten in meinem GLM-Modell erhalten kann. Ich habe die Fischerinformationsmatrix, die ich von Hand berechnet habe, aber sie ist nicht skaliert. Wie kann ich die Fischerinformationsmatrix so skalieren, dass die GLM-Funktion dieselben Standardfehler enthält?

7 r generalized-linear-model covariance

1

Theorie hinter dem Testen, ob

Nehme an, dass Xi∼i.i.d.N(μ,σ2)Xi∼i.i.d.N(μ,σ2)X_i \stackrel{\mbox{i.i.d.}}{\sim} \mathcal{N} (\mu, \sigma^2), wo σ2σ2\sigma^2ist bekannt. Anhand dieser Daten möchten wir testen, obμ∈Qμ∈Q\mu \in \mathbb{Q}, das heißt, ob der Mittelwert μμ\mu ist eine rationale Zahl. Es scheint intuitiv klar zu sein, dass wir dies nicht tun können, da jedes Geräusch zu viel Geräusch sein wird. …

7 probability hypothesis-testing normal-distribution mean iid

1

Wie wird festgestellt, dass ein Klassifikator eine hohe Verzerrung oder Varianz aufweist?

Die Verzerrung und Varianz eines Klassifikators bestimmt den Grad, in dem er die Daten unter- bzw. überanpassen kann. Wie könnte man einen Klassifikator bestimmen, der als hohe Verzerrung oder hohe Varianz charakterisiert werden soll? Ich bin mir ziemlich klar darüber, was ein Bias-Varianz-Kompromiss und seine Zerlegung ist und wie er …

7 machine-learning classification bias-variance-tradeoff

1

Gibt es derzeit einen Konsens über den Wert des Informationsengpass-Prinzips für das Verständnis von Deep Learning?

Im Jahr 2015 veröffentlichten Tishby und Zaslavsky ein bekanntes Papier, in dem behauptet wurde, dass das sogenannte Prinzip des Informationsengpasses verwendet werden könnte, um das Verhalten tiefer neuronaler Netze zu verstehen. In einem neueren Artikel (April 2017) erweitern Schwartz-Ziv und Tishby diese Behauptungen und visualisieren insbesondere einige der Ergebnisse. Später …

7 neural-networks references deep-learning information-theory

1

Ist das Monte-Carlo-Kreuzvalidierungsverfahren gültig?

Ich dachte, die K-fache Kreuzvalidierung besteht aus den folgenden Schritten. Teilen Sie Daten zufällig in Blöcke auf.KKK Auf Stücke passen .K−1K−1K-1 Sagen Sie den verbleibenden Teil voraus. Halten Sie Vorhersagen. Wiederholen Sie 2-3 für alle verbleibenden Kombinationen der Chunks, bei denen 1 Chunk weggelassen wird .K−1K−1K-1KKK Bewerten Sie die Verluststatistik, …

7 machine-learning cross-validation

2

Die maximale Wahrscheinlichkeit ist nicht unverparametrisch. Wie kann man es also rechtfertigen, es zu benutzen?

Es gibt etwas, das mich an Max-Likelihood-Schätzern verwirrt. Angenommen, ich habe einige Daten und die Wahrscheinlichkeit unter einem Parameterμμ\mu ist L(D|μ)=e−(.7−μ)2L.(D.|μ)=e- -(.7- -μ)2 L(D|\mu) = e^{-(.7-\mu)^2} Dies ist als die Wahrscheinlichkeit einer Gaußschen Skalierung erkennbar. Jetzt wird mir mein Max-Likelihood-Schätzer gebenμ=.7μ=.7\mu=.7. Angenommen, ich wusste das nicht und arbeitete stattdessen mit …

7 bayesian maximum-likelihood frequentist

1

Können wir uns gleichzeitig eine Wahrscheinlichkeit sowohl im klassischen als auch im subjektiven Sinne vorstellen?

Ich bin ein Statistikstudent. Ich versuche, die klassischen und objektiven Definitionen der Wahrscheinlichkeit zu verstehen und wie sie mit der frequentistischen und bayesianischen Folgerung zusammenhängen. Mir ist nicht klar, warum die klassische Wahrscheinlichkeit mit der frequentistischen Inferenz gepaart ist und warum die Bayes'sche Inferenz mit der subjektiven Wahrscheinlichkeit gepaart ist. …

7 probability bayesian p-value likelihood frequentist

2

Wie extrahiere ich mithilfe von maschinellem Lernen bestimmte Informationen aus Text?

Angenommen, ich habe einen Text wie den folgenden, der normalerweise 2/3 Sätze und 100-200 Zeichen enthält. Johny kaufte 50 Dollar Milch von Walmart. Jetzt hat er nur noch 20 Dollar übrig. Ich möchte extrahieren Name der Person: Johny Verbrauchte: 50 Dollar Geld übrig: 20 Dollar. Verbrachte wo: Walmart. Ich habe …

7 machine-learning deep-learning data-mining text-mining rnn

2

Was genau läuft in einem Bayes'schen hierarchischen Modell falsch, wenn die Austauschbarkeit nicht zutrifft?

In vielen Lehrbüchern wird, wenn ein Bayes'sches Modell vorgestellt wird, beispielsweise ein klassisches Normal-Normal-Modell, kurz erwähnt, dass die Versuche austauschbar sein müssen. Ich frage mich, warum dies notwendig ist und was schief geht, wenn die Austauschbarkeit nicht funktioniert. Hat jemand irgendwelche prägnanten Antworten?

7 bayesian modeling intuition exchangeability

1

Wo sind die meisten Punkte in einer gleichmäßig verteilten hochdimensionalen Kugel?

Sollten sie nahe an der Mitte (Ursprung) sein oder ihre Oberfläche schließen?

7 distributions high-dimensional

1

Kreuzvalidierung für elastische Netzregression: Quadratischer Fehler vs. Korrelation auf dem Testsatz

Betrachten Sie die elastische Netzregression mit einer glmnetähnlichen Parametrisierung der VerlustfunktionIch habe einen Datensatz mit n \ ll p (44 bzw. 3000) und verwende eine wiederholte 11-fache Kreuzvalidierung, um die optimalen Regularisierungsparameter \ alpha und \ lambda auszuwählen . Normalerweise würde ich einen quadratischen Fehler als Leistungsmetrik für den Testsatz …

7 regression cross-validation model-selection regularization elastic-net

3

Studienweg zum Bayes'schen Denken?

Ich bin sechs Jahre in einer Geschäftsrolle und habe einen Bachelor in Physik und angewandter Mathematik / Statistik. Sean Carrolls (Caltech-Physiker) "The Big Picture" hat mich auf die Idee gebracht, dass die Bayes'sche Statistik eine nützliche Art ist, über alles nachzudenken - Sie haben unweigerlich einen Prior und sollten Ihre …

7 bayesian

1

Perzentile von

Angenommen, , und . Ich interessiere mich für die Berechnung von Perzentilen von . Wir können von einer bivariaten Normalität ausgehen.X∼N(μx,σ2x)X∼N(μx,σx2)X \sim N(\mu_x,\sigma_x^2)Y.∼ N.(μy,σ2y)Y∼N(μy,σy2)Y \sim N(\mu_y,\sigma_y^2)Corr( X., Y.) = ρCorr⁡(X,Y)=ρ\operatorname{Corr}(X,Y)=\rhoZ.= max ( X., Y.)Z=max(X,Y)Z = \max(X,Y) Ich weiß, wie man das PDF, den Mittelwert und die Varianz von , aber …

7 probability order-statistics

1

Die Grenze der Beta-Binomialverteilung ist Binomial

Ich versuche die Beziehung zwischen dem Beta-Binomial und der Binomialverteilung zu verstehen. Insbesondere versuche ich zu zeigen, dass die Grenze der Beta-Binomialverteilung mit binomial ist, wenn gegen unendlich geht. Ich habe Probleme, es zu zeigen. Alle nützlichen Hinweise wären sehr hilfreich.p=a/(a+b)p=a/(a+b)p=a/(a+b)a+ba+ba+b Aus diesem Grund glaube ich, dass ich die Grenze …

7 distributions beta-distribution beta-binomial

1

Guassianischer Prozess zur Datenimputation

Ich bin kürzlich bei Gelman et al. Auf Gaußsche Prozesse gestoßen. (2013), und ich versuche, mehr über ihre mögliche Anwendung zur Verwendung bei der Eingabe von Zeitreihendaten zu erfahren. Die interessierenden Daten sind eine einzelne variable Zeitreihe der Herzfrequenz einer Person, die unter Verwendung eines Fotoplethysmogramms (PPG; ein optischer Sensor, …

7 time-series gaussian-process data-imputation stan