Als «dirichlet-distribution» getaggte Fragen

Ich beginne mit der Verwendung von dabble glmnetmit LASSO Regression , wo mein Ergebnis von Interesse dichotomous ist. Ich habe unten einen kleinen nachgebildeten Datenrahmen erstellt: age <- c(4, 8, 7, 12, 6, 9, 10, 14, 7) gender <- c(1, 0, 1, 1, 1, 0, 1, 0, 0) bmi_p <- …

77 r  self-study  lasso  regression  interpretation  anova  statistical-significance  survey  conditional-probability  independence  naive-bayes  graphical-model  r  time-series  forecasting  arima  r  forecasting  exponential-smoothing  bootstrap  outliers  r  regression  poisson-distribution  zero-inflation  genetic-algorithms  machine-learning  feature-selection  cart  categorical-data  interpretation  descriptive-statistics  variance  multivariate-analysis  covariance-matrix  r  data-visualization  generalized-linear-model  binomial  proportion  pca  matlab  svd  time-series  correlation  spss  arima  chi-squared  curve-fitting  text-mining  zipf  probability  categorical-data  distance  group-differences  bhattacharyya  regression  variance  mean  data-visualization  variance  clustering  r  standard-error  association-measure  somers-d  normal-distribution  integral  numerical-integration  bayesian  clustering  python  pymc  nonparametric-bayes  machine-learning  svm  kernel-trick  hyperparameter  poisson-distribution  mean  continuous-data  univariate  missing-data  dag  python  likelihood  dirichlet-distribution  r  anova  hypothesis-testing  statistical-significance  p-value  rating  data-imputation  censoring  threshold 

Im LDA-Themenmodell-Algorithmus habe ich diese Annahme gesehen. Aber ich weiß nicht, warum ich Dirichlet-Distribution gewählt habe? Ich weiß nicht, ob wir die gleichmäßige Verteilung über Multinomial als Paar verwenden können.

36 bayesian  dirichlet-distribution  conjugate-prior 

Ich bin ziemlich neu in der Bayes'schen Statistik und bin auf ein korrigiertes Korrelationsmaß gestoßen , SparCC , das den Dirichlet-Prozess im Backend seines Algorithmus verwendet. Ich habe versucht, den Algorithmus Schritt für Schritt durchzugehen, um wirklich zu verstehen, was passiert, bin mir aber nicht sicher, was der alphaVektorparameter in …

26 distributions  bayesian  dirichlet-distribution 

Nehmen wir an, wir haben eine Dirichlet-Verteilung mit dem dimensionalen . Wie kann ich aus dieser Verteilung eine Stichprobe (einen dimensionalen Vektor) ziehen? Ich brauche eine (möglicherweise) einfache Erklärung.KKKα⃗ = [ α1, α2, . . . , αK]α→=[α1,α2,...,αK]\vec\alpha = [\alpha_1, \alpha_2,...,\alpha_K]KKK

25 sampling  dirichlet-distribution 

Diese Frage ist also etwas chaotisch, aber ich werde bunte Grafiken einfügen, um das auszugleichen! Zuerst der Hintergrund, dann die Frage (n). Hintergrund Angenommen, Sie haben eine nnn dimensionale multinomiale Verteilung mit gleichen Wahrscheinlichkeitswerten über die nnn Kategorien. Sei π=(π1,…,πn)π=(π1,…,πn)\pi = (\pi_1, \ldots, \pi_n) die normierten Zählwerte ( ccc ) …

24 distributions  bayesian  bootstrap  multinomial  dirichlet-distribution 

Lassen Sie einen Stab der Länge 1 gleichmäßig zufällig in Fragmente zerbrechen . Wie ist die Verteilung der Länge des längsten Fragments?k+1k+1k+1 Genauer gesagt, sei IID , und sei die zugehörige Ordnungsstatistik, dh wir ordnen einfach die Probe so, dass . Sei .(U1,…Uk)(U1,…Uk)(U_1, \ldots U_k)U(0,1)U(0,1)U(0,1)(U(1),…,U(k))(U(1),…,U(k))(U_{(1)}, \ldots, U_{(k)})U(1)≤U(2)≤,…,≤U(k)U(1)≤U(2)≤,…,≤U(k)U_{(1)} \leq U_{(2)} \leq, …

21 distributions  uniform  order-statistics  dirichlet-distribution  maximum 

Bei Verwendung der Themenmodellierung (Latent Dirichlet Allocation) ist die Anzahl der Themen ein Eingabeparameter, den der Benutzer angeben muss. Ich denke, wir sollten auch eine Sammlung von Kandidatenthemensätzen bereitstellen, mit denen der Dirichlet-Prozess verglichen werden muss. Ist mein Verständnis korrekt? Wie kann man in der Praxis ein solches Kandidatenthemaset einrichten?

17 machine-learning  bayesian  clustering  text-mining  dirichlet-distribution 

Sei X1,…,Xk+1X1,…,Xk+1X_1,\dots,X_{k+1} voneinander unabhängige Zufallsvariablen mit jeweils einer Gammaverteilung mit Parametern αi,i=1,2,…,k+1αi,i=1,2,…,k+1\alpha_i,i=1,2,\dots,k+1 zeige Yi=XiX1+⋯+Xk+1,i=1,…,kYi=XiX1+⋯+Xk+1,i=1,…,kY_i=\frac{X_i}{X_1+\cdots+X_{k+1}},i=1,\dots,k, haben eine gemeinsame Verteilung alsDirichlet(α1,α2,…,αk;αk+1)Dirichlet(α1,α2,…,αk;αk+1)\text{Dirichlet}(\alpha_1,\alpha_2,\dots,\alpha_k;\alpha_{k+1}) Gemeinsames pdf von (X1,…,Xk+1)=e−∑k+1i=1xixα1−11…xαk+1−1k+1Γ(α1)Γ(α2)…Γ(αk+1)(X1,…,Xk+1)=e−∑i=1k+1xix1α1−1…xk+1αk+1−1Γ(α1)Γ(α2)…Γ(αk+1)(X_1,\dots,X_{k+1})=\frac{e^{-\sum_{i=1}^{k+1}x_i}x_1^{\alpha_1-1}\dots x_{k+1}^{\alpha_{k+1}-1}}{\Gamma(\alpha_1)\Gamma(\alpha_2)\dots \Gamma(\alpha_{k+1})} Dann kann ich das gemeinsame pdf von(Y1,…,Yk+1)(Y1,…,Yk+1)(Y_1,\dots,Y_{k+1})nicht finden, dhJ(x1,…,xk+1y1,…,yk+1)J(x1,…,xk+1y1,…,yk+1)J(\frac{x_1,\dots,x_{k+1}}{y_1,\dots,y_{k+1}})

16 self-study  multivariate-analysis  gamma-distribution  dirichlet-distribution 

In der (unbeaufsichtigten) Textmodellierung ist Latent Dirichlet Allocation (LDA) eine Bayes-Version der probabilistischen latenten semantischen Analyse (PLSA). Im Wesentlichen hat LDA = PLSA + Dirichlet Vorrang vor seinen Parametern. Nach meinem Verständnis ist LDA jetzt der Referenzalgorithmus und wird in verschiedenen Paketen implementiert, während PLSA nicht mehr verwendet werden sollte. …

15 bayesian  multinomial  prior  naive-bayes  dirichlet-distribution 

Es ist einfach, eine Zufallsvariable mit Dirichlet-Verteilung unter Verwendung von Gamma-Variablen mit demselben Skalenparameter zu erzeugen. Wenn: Xi∼Gamma(αi,β)Xi∼Gamma(αi,β) X_i \sim \text{Gamma}(\alpha_i, \beta) Dann: (X1∑jXj,…,Xn∑jXj)∼Dirichlet(α1,…,αn)(X1∑jXj,…,Xn∑jXj)∼Dirichlet(α1,…,αn) \left(\frac{X_1}{\sum_j X_j},\; \ldots\; , \frac{X_n}{\sum_j X_j}\right) \sim \text{Dirichlet}(\alpha_1,\;\ldots\;,\alpha_n) Problem Was passiert, wenn die Skalenparameter nicht gleich sind? Xi∼Gamma(αi,βi)Xi∼Gamma(αi,βi) X_i \sim \text{Gamma}(\alpha_i, \beta_i) Wie ist dann die …

14 expected-value  dirichlet-distribution  gamma-distribution  integral 

In dem Wikipedia-Artikel über Laplace-Glättung (oder additive Glättung) heißt es aus Bayes-Sicht: Dies entspricht dem erwarteten Wert der posterioren Verteilung unter Verwendung einer symmetrischen Dirichlet-Verteilung mit dem Parameter als Prior.αα\alpha Ich bin verwirrt darüber, wie das tatsächlich stimmt. Könnte mir jemand helfen zu verstehen, wie diese beiden Dinge gleichwertig sind? …

11 bayesian  smoothing  dirichlet-distribution  laplace-smoothing 

Ich habe eine Frage zur Dirichlet-Posterior-Verteilung. Gegeben es bekannt , eine Multinomial - Likelihood - Funktion , dass der posteriore ist , wobei N i die Anzahl der Male , die wir gesehen haben , i t h Beobachtung.D i r ( αich+ N.ich)D.ichr(αich+N.ich)Dir({\alpha_i + N_i})N.ichN.ichN_iithithi^{th} Was passiert, wenn wir …

11 dirichlet-distribution 

Ich werde versuchen, das vorliegende Problem so allgemein wie möglich zu beschreiben. Ich modelliere Beobachtungen als kategoriale Verteilung mit einem Parameterwahrscheinlichkeitsvektor Theta. Dann nehme ich an, dass der Parametervektor Theta einer Dirichlet-Vorverteilung mit den Parametern folgt .α1,α2,…,αkα1,α2,…,αk\alpha_1,\alpha_2,\ldots,\alpha_k Ist es dann möglich, auch eine Hyperpriorverteilung über die Parameter aufzuerlegen ? Muss …

10 categorical-data  multinomial  dirichlet-distribution  hierarchical-bayesian  dirichlet-process 

In den Artikeln AlphaGo Zero und AlphaZero von DeepMind beschreiben sie das Hinzufügen von Dirichlet- Rauschen zu den vorherigen Wahrscheinlichkeiten von Aktionen vom Wurzelknoten (Board-Status) in der Monte-Carlo-Baumsuche: Weitere Explorations wird erreicht durch Zugabe von Dirichlet Rauschen zu den vorherigen Wahrscheinlichkeiten in dem Wurzelknoten , insbesondere , wo und ; …

10 machine-learning  neural-networks  dirichlet-distribution 

Ich schaue mir derzeit eine Arbeit des Dirichlet-Prozess-Zufallseffektmodells an und die Modellspezifikation lautet wie folgt: wobeider Skalierungsparameter unddas Basismaß ist. Später in diesem Artikel wird vorgeschlagen, eine Funktion über das Basismaßz. B. Ist das Basismaß im Dirichlet-Prozess ein PDF oder ein PDF? Was passiert, wenn das Basismaß ein Gaußscher ist?yichψichG= …

9 bayesian  dirichlet-distribution  dirichlet-process  nonparametric-bayes  measure-theory