Als «bayesian» getaggte Fragen

Betrachten Sie einen Trainingsdatensatz , ein durch parametrisiertes Wahrscheinlichkeitsmodell und ein vorheriges P (\ theta) . Für einen neuen Datenpunkt x ^ * können wir P (x ^ *) berechnen mit:XXXθθ\thetaP(θ)P(θ)P(\theta)x∗x∗x^*P(x∗)P(x∗)P(x^*) ein vollständig bayesianischer Ansatz: die posteriore Vorhersageverteilung P(x∗|X)=∫P(θ|X)P(x∗|θ)dθP(x∗|X)=∫P(θ|X)P(x∗|θ)dθP(x^* | X) = \int P(\theta|X) P(x^*|\theta) d\theta die Wahrscheinlichkeit, die durch …

7 bayesian  maximum-likelihood  posterior 

Was sind die neuesten Alternativen zu Gaußschen Prozessen (GP) für nichtparametrische nichtlineare Regression mit Vorhersageunsicherheit, wenn die Größe des Trainingssatzes für Vanille-Allgemeinmediziner unerschwinglich wird, aber immer noch nicht sehr groß ist? Details meines Problems sind: Der Eingaberaum ist niedrigdimensional (X⊆RdX⊆Rd\mathcal{X} \subseteq \mathbb{R}^dmit 2≤d≤202≤d≤202\le d \le 20) Ausgabe ist reellwertig (Y⊆RY⊆R\mathcal{Y} …

7 regression  machine-learning  bayesian  nonparametric  gaussian-process 

Auf Seite 146 der Bayes'schen Datenanalyse von Gelman erläutert Gelman den Bayes'schen p-Wert, um die Anpassung des Modells zu überprüfen. Die Idee ist, die beobachteten Daten ( ) mit Daten zu vergleichen, die vom Modell generiert werden könnten, wenn wir das Experiment replizieren ( ).yyyyr e pyrepy^{rep} Er definiert den …

7 bayesian  p-value  goodness-of-fit 

Bei der Durchführung einer Bayes'schen Analyse ist die Autokorrelation der MCMC-Proben zu überprüfen. Aber ich verstehe nicht, was diese Autokorrelation verursacht. Hier sagen sie das Proben mit hoher Autokorrelation [von MCMC] werden häufig durch starke Korrelationen zwischen Variablen verursacht. Ich frage mich, was andere Ursachen für Proben mit hoher Autokorrelation …

7 correlation  bayesian  autocorrelation  mcmc  jags 

Ich implementiere eine Vanille-Variationsmischung aus multivariaten Gaußschen gemäß Kapitel 10 von Mustererkennung und maschinelles Lernen (Bishop, 2007). Der Bayes'sche Ansatz erfordert die Angabe von (Hyper-) Parametern für den Gauß'schen inversen Wishart vor: α0α0\alpha_0 (Konzentrationsparameter des Dirichlet-Prior); ν0ν0\nu_0 (Freiheitsgrade einer inversen Wishart-Verteilung); β0β0\beta_0 (Pseudobeobachtungen für die Gauß-inverse Wishart-Verteilung); m0m0\mathbf{m}_0 (Mittelwert der …

7 machine-learning  bayesian  prior  gaussian-mixture  variational-bayes 

Soweit ich weiß, ist Bootstrapping in einer Frequentist-Umgebung unglaublich nützlich. In frequentistischen Statistiken: Wir versuchen, langfristige Wahrscheinlichkeiten abzuschätzen. In der Praxis haben wir nicht unendlich viele Proben. Mit dem Bootstrap können wir unendlich viele Re-Samples simulieren. Soweit ich weiß, ist dies wahrscheinlich das nützlichste Werkzeug in der Statistik der Frequentisten. …

7 bayesian  bootstrap 

In einem Bayes'schen Modell wird die posteriore Vorhersageverteilung normalerweise wie folgt geschrieben: p (xn e w∣x1, …xn) =∫∞- ∞p (xn e w∣ μ ) p ( μ ∣ x1, …xn) dμp(xnew∣x1,…xn)=∫- -∞∞p(xnew∣μ) p(μ∣x1,…xn)dμ p(x_{new} \mid x_1, \ldots x_n) = \int_{-\infty}^{\infty} p(x_{new}\mid \mu) \ p(\mu \mid x_1, \ldots x_n)d\mu für einen …

7 bayesian  mcmc  gibbs 

Ich versuche, die Aktualisierungsgleichungen für das Konjugat an die Dirichlet-Verteilung abzuleiten, wie hier beschrieben: /mathpro/20399/conjugate-prior-of-the-dirichlet-distribution Die von mir berechnete Parameteraktualisierungsgleichung stimmt jedoch nicht mit der dort vorgeschlagenen überein. Meine Ableitung ist unten dargestellt: where, f(θ|α)=Dir(θ|α)=1B(α)exp(ϕ(α)Tu(θ))f(θ|α)=Dir(θ|α)=1B(α)exp⁡(ϕ(α)Tu(θ))\begin{align} f({\theta}|{\alpha}) &= Dir({\theta}|{\alpha})\\ &=\frac{1}{B({\alpha})}\exp(\phi({\alpha})^{T}u({\theta})) \end{align}ϕ(α)Tu(θ)B(α)=[α1−1,⋯,αK−1]=[ln(θ1),⋯,ln(θK)]T=∏Ki=1Γ(αi)Γ(∑Ki=1αi)ϕ(α)T=[α1−1,⋯,αK−1]u(θ)=[ln⁡(θ1),⋯,ln⁡(θK)]TB(α)=∏i=1KΓ(αi)Γ(∑i=1Kαi)\begin{align} \phi({\alpha})^{T} &= [\alpha_1-1,\cdots,\alpha_K-1]\\ u({\theta}) &= [\ln(\theta_1),\cdots,\ln(\theta_K)]^{T}\\ B({\alpha}) &= \frac{\prod_{i=1}^{K}\Gamma(\alpha_i)}{\Gamma\left(\sum_{i=1}^{K}\alpha_i\right)} \end{align} …

7 bayesian  posterior  dirichlet-distribution  conjugate-prior 

Dieser Artikel enthält ein Beispiel für Bayesianische vs. Frequentistische Philosophien. Ein altes Medikament behandelt erfolgreich 70% der Patienten. Um ein neues Medikament zu testen, geben Forscher es 100 Patienten, von denen sich 83 erholen. Wie sicher sollten wir auf der Grundlage dieser Beweise sein, dass das neue Medikament schlechter als, …

7 probability  bayesian  inference  frequentist 

Was ist die beste Vorgehensweise zum Trainieren und Bewerten eines Vorhersagealgorithmus für eine Zeitreihe? Zum Lernen von Algorithmen, die im Batch-Modus trainiert werden, kann ein naiver Programmierer den Rohdatensatz [(sample, expected prediction),...]direkt an die train()Methode des Algorithmus weitergeben . Dies zeigt normalerweise eine künstlich hohe Erfolgsrate, da der Algorithmus effektiv …

7 machine-learning  predictive-models  prediction  time-series  forecasting  exponential-smoothing  survival  censoring  probability  distributions  references  multinomial  combinatorics  k-nearest-neighbour  regression  logistic  r  regression  logistic  predictive-models  bayesian  p-value  frequentist  consistency  distributions  censoring  machine-learning  mean  missing-data  data-imputation  multiple-imputation 

Kahneman und Tversky erwähnen, dass in diesem Diagramm der Wert von (hohe vorherige Gruppe) / (niedrige vorherige Gruppe) 5,44 betragen sollte. Kahneman und Tversky nennen die gekrümmte Linie eine "Bayes'sche Linie" und ich glaube zu verstehen, wie es funktioniert. Wenn zum Beispiel die Wahrscheinlichkeit am niedrigen Prior 0,5 beträgt, dann …

7 bayesian  odds-ratio  odds 

Bei einer Folge unabhängiger Experimente, deren Ergebnis entweder Erfolg oder Misserfolg ist, liegt die Erfolgswahrscheinlichkeit bei einer Zahl p zwischen 0 und 1 : Ein Bayesianer würde die Ergebnisse der k Experimente fest betrachten, während p zufällig wäre, dann eine vorherige Verteilung auf p annehmen und dann eine hintere Verteilung …

7 regression  hypothesis-testing  bayesian  frequentist  definition 

Das folgende Problem stammt aus einer alten Doktorandenprüfung in unserer Abteilung. Meine eigene Lösung unten ist zeitaufwändig und möglicherweise falsch. Es hängt auch davon ab, dass eine weniger verbreitete Verteilung erkannt wird. Ich frage mich also: Gibt es einen schnelleren Weg, um dieses Problem zu lösen, und wie wird das …

7 self-study  bayesian  mathematical-statistics  estimation  pdf