Als «kullback-leibler» getaggte Fragen

Ein asymmetrisches Maß für den Abstand (oder die Unähnlichkeit) zwischen Wahrscheinlichkeitsverteilungen. Es könnte als der erwartete Wert des Log-Likelihood-Verhältnisses unter der alternativen Hypothese interpretiert werden.

1
Warum konzentriert sich der Bayes'sche Posterior um den Minimierer der KL-Divergenz?
Betrachten Sie die Bayes - posterior θ∣Xθ∣X\theta\mid X . Asymptotisch tritt ihr Maximum bei der Schätzung MLE θ , der nur die Wahrscheinlichkeit maximiert argmin θθ^θ^\hat \thetaargminθfθ(X)argminθfθ(X)\operatorname{argmin}_\theta\, f_\theta(X) . Alle diese Konzepte - Bayesianische Prioritäten, die die Wahrscheinlichkeit maximieren - klingen super prinzipiell und überhaupt nicht willkürlich. Es ist kein …
2
Bevölkerungsstabilitätsindex - Division durch Null
Der Populationsstabilitätsindex quantifiziert die Änderung einer Verteilung einer Variablen durch Vergleichen von Datenstichproben in zwei Zeiträumen. Es wird sehr häufig verwendet, um Verschiebungen in Punktzahlen zu messen. Es wird wie folgt berechnet: 1) Die Probe aus der Basisperiode wird diskretisiert. Normalerweise wird es in Dezile unterteilt. 2) Die Stichprobe aus …
3
Wie berechnet man die Kullback-Leibler-Divergenz, wenn die PMF Nullen enthält?
Ich habe die folgenden Zeitreihen erhalten mit den unten angegebenen Daten. Für eine Schiebefenstergröße von 10 versuche ich, die KL-Divergenz zwischen der PMF von Werten innerhalb des aktuellen Schiebefensters und der PMF der Historie zu berechnen, mit dem Endziel, den Wert der KL-Divergenz über die Zeit so zu zeichnen, dass …
1
KL Divergenz und Erwartungen
Ich versuche die Erklärung der KL-Divergenz unten zu verstehen. Es bezieht sich, wie ich es verstehe, auf eine Erwartung im zweiten Semester. "Annäherung der Erwartung über q in diesem Term". Wir multiplizieren jedoch q (x) mit dem Protokoll von p (x) (und nicht mit p (x). Ist es immer noch …
2
Warum enthält der Name EM-Algorithmus ein E.
Ich verstehe, wo der E-Schritt im Algorithmus stattfindet (wie im Abschnitt "Mathematik" unten erläutert). Meiner Meinung nach ist der Schlüsseleinfallsreichtum des Algorithmus die Verwendung der Jensen-Ungleichung, um eine Untergrenze für die Log-Wahrscheinlichkeit zu erstellen. In diesem Sinne Expectationwird einfach genommen, um die logarithmische Wahrscheinlichkeit neu zu formulieren, um in Jensens …
3
Wählen Sie die Wahrscheinlichkeitsverteilung, um die Bewertungsfunktion zu maximieren (für den CDC-Grippewettbewerb).
Angenommen, Sie haben eine diskrete Zufallsvariable XXX mit Wahrscheinlichkeitsmassenfunktion p(x)=P(X=x)p(x)=P(X=x)p(x) = P(X=x) auf die Unterstützung 0,…,n0,…,n0,\ldots,n. Welche Funktionq(x)≥0q(x)≥0q(x)\ge 0 so dass ∑nx=0q(x)=1∑x=0nq(x)=1\sum_{x=0}^n q(x) = 1 maximiert E(log[q(X−1)+q(X)+q(X+1)])?E(log⁡[q(X−1)+q(X)+q(X+1)])? E(\log[q(X-1)+q(X)+q(X+1)])? Nehmen Sie an, um den Umgang mit Randfällen zu vermeiden P(X=0)=P(X=n)=0P(X=0)=P(X=n)=0P(X=0)=P(X=n)=0. Verwandte Fragen: Ich glaube das q( x )q(x)q(x) das maximiert die …
Durch die Nutzung unserer Website bestätigen Sie, dass Sie unsere Cookie-Richtlinie und Datenschutzrichtlinie gelesen und verstanden haben.
Licensed under cc by-sa 3.0 with attribution required.