Statistiken und Big Data

Fragen und Antworten für Personen, die sich für Statistik, maschinelles Lernen, Datenanalyse, Data Mining und Datenvisualisierung interessieren

1
Enthält ein optimal entworfenes neuronales Netzwerk beim Training keine „toten“ ReLU-Neuronen?
Sollte ich mein neuronales Netzwerk im Allgemeinen mit weniger Neuronen neu trainieren, damit es weniger tote ReLU-Neuronen hat? Ich habe widersprüchliche Meinungen über tote ReLUs gelesen. Einige Quellen sagen, dass tote ReLUs gut sind, weil sie die Sparsamkeit fördern. Andere sagen, dass sie schlecht sind, weil tote ReLUs für immer …


2
Verwenden von HAC-Standardfehlern, obwohl möglicherweise keine Autokorrelation vorliegt
Ich führe einige Regressionen durch und habe mich, da ich auf der sicheren Seite sein wollte, entschlossen, durchgehend HAC-Standardfehler (Heteroskedasticity & Autocorrelation Consistent) zu verwenden. Es kann einige Fälle geben, in denen keine serielle Korrelation vorliegt. Ist das sowieso ein gültiger Ansatz? Gibt es irgendwelche Nachteile?

1
Erwartung einer Funktion einer Zufallsvariablen von CDF
Ist es möglich, die Erwartung einer Funktion einer Zufallsvariablen nur mit der CDF des RV zu berechnen? Angenommen, ich habe eine Funktion mit der Eigenschaft und die einzige Information, die ich über die Zufallsvariable habe, ist die CDF.∫ ∞ - ∞ g ( x ) d x ≤ ∞g(x)g(x)g(x)∫∞−∞g(x)dx≤∞∫−∞∞g(x)dx≤∞\int_{-\infty}^{\infty}g(x)dx \leq …


1
RNN lernt Sinuswellen mit unterschiedlichen Frequenzen
Zum Aufwärmen mit wiederkehrenden neuronalen Netzen versuche ich, eine Sinuswelle von einer anderen Sinuswelle einer anderen Frequenz vorherzusagen. Mein Modell ist eine einfache RNN, deren Vorwärtsdurchlauf wie folgt ausgedrückt werden kann: wobeiσdie Sigmoïd-Funktion ist.rtzt=σ(Win⋅xt+Wrec⋅rt−1))=Wout⋅rtrt=σ(Win⋅xt+Wrec⋅rt−1))zt=Wout⋅rt \begin{aligned} r_t &= \sigma(W_{in} \cdot x_t + W_{rec} \cdot r_{t-1}))\\ z_t &= W_{out} \cdot r_t \end{aligned} …

1
Verstehen, dass
Ich habe gerade diese Frage und die wundervolle akzeptierte Antwort in diesem Forum gesehen. Ich wurde dann veranlasst, intuitiv zu verstehen, warum die Division von die Kovarianz normalisiert:S.xS.ySxSyS_xS_y COV( X., Y.)S.xS.y∈ [ - 1 , 1 ]COV⁡(X,Y)SxSy∈[−1,1]\frac{\operatorname{COV}(X,Y)}{S_xS_y} \in [-1,1] Ich denke, es wird hilfreich sein, wenn ich nur verstehe, warum …

1
Seltsame Wahrscheinlichkeitsspur von der MCMC-Kette
Ich habe ein Modell, das geht : Single parameter -> Complex likelihood function -> Log-likelihood. Ich habe eine MCMC-Kette (mit pymc) ausgeführt und die Spur des Parameters und die Log-Wahrscheinlichkeit aufgezeichnet. Die Parameterschätzung war vernünftig, aber das Log-Likelihood-Diagramm erscheint mir seltsam. Die Log-Wahrscheinlichkeit überschreitet niemals einen bestimmten Wert. Ich nehme …


1
Polynomregression im R-Quadrat und höherer Ordnung
Das folgende Diagramm zeigt die Sättigung einer Straße gegen die Auswirkungen auf die Fahrzeit (normalisiert auf die Fahrzeit im freien Fluss). Die blaue Kurve (BPR-Funktion) zeigt ein standardisiertes Modell, das vor Ort verwendet wird, um Reisezeit und Sättigung in Beziehung zu setzen. Für die empirischen Daten, die ich gesammelt habe, …


3
Daten mit Fourier-Analyse deseasonalisieren
Ich habe Daten, denen zwei Verhaltensweisen zugrunde liegen. Erstens gibt es eine Periodizität darin. Es sieht aus wie eine Sinuskurve. Zweitens weisen die Datenpunkte ein konstantes Wachstum auf. Wenn ich also 100 Datenpunkte ohne Wachstum habe, sieht es aus wie eine Sinuskurve. Aber aufgrund der Wachstumsrate darin. Es gibt eine …


1
Was bringt es, Daten in Trainings- und Testteile zu unterteilen, um die Vorhersageeigenschaften bei AIC zu bewerten?
Asymptotisch entspricht die Minimierung des AIC der Minimierung der ausgelassenen Kreuzvalidierungs-MSE für Querschnittsdaten [ 1 ]. Wenn wir also AIC haben, warum verwendet man überhaupt die Methode der Aufteilung der Daten in Trainings-, Validierungs- und Testsätze, um die Vorhersageeigenschaften von Modellen zu messen? Was genau sind die Vorteile dieser Praxis? …


Durch die Nutzung unserer Website bestätigen Sie, dass Sie unsere Cookie-Richtlinie und Datenschutzrichtlinie gelesen und verstanden haben.
Licensed under cc by-sa 3.0 with attribution required.