Statistiken und Big Data

Ist das Folgende wahr? niedrige Vorspannung = hohe Varianz hohe Vorspannung = niedrige Varianz Ich verstehe hohe und niedrige Vorurteile, aber wie unterscheidet sich die Varianz? Oder sind die oben genannten Synonyme?

8 machine-learning  neural-networks  variance  sampling  bias 

TLDR: Haben Dünnplatten-Regressionssplines eine probabilistische / Bayes'sche Interpretation? Bei gegebenen Eingabe-Ausgabe-Paaren ist ; Ich möchte eine Funktion wie folgt schätzen: wobei eine Kernfunktion ist und ein Merkmalsvektor der Größe . Die Koeffizienten und können durch Lösen von wobei Die Zeilen von \ Phi sind gegeben durch(xi,yi)(xi,yi)(x_i,y_i)i=1,...,ni=1,...,ni=1,...,nf(⋅)f(⋅)f(\cdot)f(x)≈u(x)=ϕ(xi)Tβ+∑i=1nαik(x,xi),f(x)≈u(x)=ϕ(xi)Tβ+∑i=1nαik(x,xi),\begin{equation}f(x)\approx u(x)=\phi(x_i)^T\beta +\sum_{i=1}^n \alpha_i k(x,x_i),\end{equation}k(⋅,⋅)k(⋅,⋅)k(\cdot,\cdot)ϕ(xi)ϕ(xi)\phi(x_i)m&lt;nm&lt;nm<nαiαi\alpha_iβiβi\beta_iminα∈Rn,β∈Rm1n∥Y−Φβ−Kα∥2Rn+λαTKα,minα∈Rn,β∈Rm1n‖Y−Φβ−Kα‖Rn2+λαTKα,\begin{equation} …

8 regression  bayesian  gaussian-process  smoothing  semiparametric 

Ich würfle einen fairen Würfel. Wie ist die Wahrscheinlichkeitsverteilung der Anzahl der Rollen, bis ich zum ersten Mal entweder akkumuliere: 1) Fünf Einsen 2) 20 Vorkommen von Gesichtern, die nicht eins sind? Ich freue mich, die aktuelle Anwendung zu teilen, wenn das helfen würde.

8 probability  negative-binomial 

Gilt der universelle Approximationssatz für neuronale Netze für eine Aktivierungsfunktion (Sigmoid, ReLU, Softmax usw.) oder ist er auf Sigmoidfunktionen beschränkt? Update: Wie Shimao in den Kommentaren hervorhebt, gilt es für absolut keine Funktion. Für welche Klasse von Aktivierungsfunktionen gilt dies?

8 neural-networks  approximation 

Ich bin kürzlich auf einen faszinierenden Artikel über die Vorhersage zukünftiger Börsenrenditen gestoßen. Der Autor präsentiert die folgende Grafik und zitiert einen R ^ 2 von 0,913. Dies würde die Methode des Autors allem, was ich jemals zu diesem Thema gesehen habe, weit überlegen machen (die meisten argumentieren, dass der …

8 machine-learning  time-series  forecasting  predictive-models 

Mein letztendliches Ziel ist es, einen Vektor der Größe von korrelierten Bernoulli-Zufallsvariablen erzeugen zu können . Eine Möglichkeit, dies zu tun, besteht darin, den Gaußschen Coupla-Ansatz zu verwenden. Der Gaußsche Coupla-Ansatz lässt mich jedoch nur mit einem Vektor zurück:N.N.N ( p1, … , P.N.) ∈ [ 0 , 1 ]N.(p1,…,pN.)∈[0,1]]N. …

8 correlation  mathematical-statistics  simulation  copula 

Dies mag eine vage Frage sein, aber ich frage mich, wie die Quantiltransformation von Scikit-Learn implementiert wird. Ich frage mich, wie ein verzerrter Datensatz in eine solche Normalverteilung umgewandelt werden kann . Normalerweise bietet scikit-learn einen Link zum Wiki, aber nicht diese Transformation. Kann mich jemand in die richtige Richtung …

8 data-transformation  quantiles 

Ich habe Online-Tutorials für räumliches Kriging mit beiden geoRund gstat(und auch automap) verfolgt. Ich kann räumliches Kriging durchführen und verstehe die Hauptkonzepte dahinter. Ich weiß, wie man ein Semivariogramm erstellt, wie man ein Modell daran anpasst und wie man gewöhnliches Kriging durchführt. Was ich nicht verstehe ist, wie die Gewichte …

8 prediction  spatial  weights  kriging 

Ich bin auf die Formel gestoßen, um die oberen Vertrauensgrenzen für das Problem der k-bewaffneten Banditen zu erreichen: c ln N.ichnich- -- -- -- -- -√clnNinic\sqrt{\frac{\text{ln} N_i}{n_i}} Dabei ist die Anzahl der Proben, die wir für diesen bestimmten Banditen haben, und die Gesamtmenge der Proben, die wir von allen Banditen …

8 machine-learning  mathematical-statistics  confidence-interval  reinforcement-learning  multiarmed-bandit 

Angenommen, Sie haben einige Daten aus einem randomisierten Blockdesign mit 4 Wiederholungen und 23 Behandlungen erhalten. Nach einer ersten Überprüfung der Daten stellen Sie fest, dass bei 8 Behandlungen alle Wiederholungen identisch sind, was offensichtlich falsch ist. Nachdem Sie das Problem gemeldet haben, wird Ihnen mitgeteilt, dass es auf eine …

8 probability  anova  dataset  fraud 

Ich bin kürzlich auf mehrere "informelle" Quellen gestoßen, die darauf hinweisen, dass wir unter bestimmten Umständen, wenn wir den AIC oder BIC zum Trainieren eines Zeitreihenmodells verwenden, die Daten nicht in Test und Training aufteilen müssen - wir können alle verwenden die Daten für das Training. (Zu den Quellen gehören …

8 time-series  cross-validation  aic  train  bic 

Ich sehe manchmal Leute, die Taylor Approximation wie folgt verwenden: E(ex)≈E(1+x)E(ex)≈E(1+x)E(e^x)\approx E(1+x) Ich weiß, dass die Taylor-Näherung für funktioniert ex≈1+xex≈1+xe^x \approx 1+x Mir ist jedoch nicht klar, dass wir die Annäherung innerhalb des Erwartungsoperators durchführen können. Intuitiv denke ich, dass es funktioniert, wenn "die Wahrscheinlichkeit, dass viel größer als 0 …

8 expected-value  approximation 

Ich möchte eine hierarchische GLM schätzen, aber mit Merkmalsauswahl, um zu bestimmen, welche Kovariaten auf Bevölkerungsebene relevant sind, um sie einzubeziehen. Angenommen, ich habe GGG Gruppen mit NNN Beobachtungen und KKK möglichen Kovariaten. Das heißt, ich habe eine Entwurfsmatrix von Kovariaten , Ergebnissen . Die Koeffizienten für diese Kovariaten sind …

8 machine-learning  bayesian  feature-selection  hierarchical-bayesian  shrinkage 

Ich lese gerade ein großartiges HMC-Einführungspapier von Prof. Michael Betancourt, aber ich verstehe nicht, wie wir die Verteilung des Impulses wählen sollen. Zusammenfassung Die Grundidee von HMC besteht darin, eine Impulsvariable in Verbindung mit der Zielvariablen einzuführen . Sie bilden gemeinsam einen Phasenraum .pppqqq Die Gesamtenergie eines konservativen Systems ist …

8 mcmc  monte-carlo  hmc 

Ich bin neu bei ML. Ich wurde informiert, dass die L2-Normalisierung der Gratregression den Achsenabschnitt nicht bestraft . Wie in der Kostenfunktion: Der L2-Normalisierungsterm summiert sich nur von bis , nicht von bis . Ich habe das auch gelesen:θ0θ0\theta_{0}∇θJ(θ)=12∑i=1m(hθ⃗ (x(i))−y(i))2+λ∑j=1nθ2j∇θJ(θ)=12∑i=1m(hθ→(x(i))−y(i))2+λ∑j=1nθj2 \nabla_{\theta}J(\theta)=\frac{1}{2}\sum_{i=1}^{m}(h_{\vec \theta}(x^{(i)})-y^{(i)})^2+\lambda\sum_{j=1}^{n}{\theta_{j}^{2}} λ∑nj=1θ2jλ∑j=1nθj2\lambda\sum_{j=1}^{n}{\theta_{j}^{2}}j=1j=1j=1nnnj=0j=0j=0nnn In den meisten Fällen (in allen Fällen?) …

8 machine-learning  ridge-regression