Als «exponential-family» getaggte Fragen

Auf The Chemical Statistician stieß ich auf die Bemerkung, dass ein Probenmedian oft die Wahl für eine ausreichende Statistik sei, aber abgesehen von dem offensichtlichen Fall von ein oder zwei Beobachtungen, bei denen er dem Probenmittelwert entspricht, kann ich mir keinen anderen nicht-trivialen und iid vorstellen Fall, in dem der …

21 median  exponential-family  sufficient-statistics  chemistry 

Hier studiere ich also Inferenz. Ich möchte, dass jemand die Vorteile der exponentiellen Familie aufzählen könnte. Mit Exponentialfamilie meine ich die Verteilungen, die gegeben sind als f(x|θ)=h(x)exp{η(θ)T(x)−B(θ)}f(x|θ)=h(x)exp⁡{η(θ)T(x)−B(θ)}\begin{align*} f(x|\theta) = h(x)\exp\left\{\eta(\theta)T(x) - B(\theta)\right\} \end{align*} wessen Unterstützung nicht vom Parameter abhängt . Hier sind einige Vorteile, die ich herausgefunden habe:θθ\theta (a) Es …

19 self-study  exponential-family 

Ich lese das buch: Bischof, Mustererkennung und maschinelles Lernen (2006) was die Exponentialfamilie als Verteilungen der Form definiert (Gl. 2.194): p(x|η)=h(x)g(η)exp{ηTu(x)}p(x|η)=h(x)g(η)exp⁡{ηTu(x)}p(\mathbf x|\boldsymbol \eta) = h(\mathbf x) g(\boldsymbol \eta) \exp \{\boldsymbol \eta^\mathrm T \mathbf u(\mathbf x)\} Aber ich sehe keine Einschränkungen für oder . Bedeutet das nicht, dass jede Verteilung in …

18 mathematical-statistics  exponential-family 

Eine Poisson-Verteilung kann Ereignisse pro Zeiteinheit messen, und der Parameter ist . Die Exponentialverteilung misst die Zeit bis zum nächsten Ereignis mit dem Parameter . Man kann eine Distribution in die andere konvertieren, je nachdem, ob es einfacher ist, Ereignisse oder Zeiten zu modellieren.1λλ\lambda1λ1λ\frac{1}{\lambda} Nun ist ein Gamma-Poisson ein "gedehntes" …

16 poisson-distribution  negative-binomial  gamma-distribution  exponential-family 

Meine Fragen sind: Werden generalisierte lineare Modelle (GLMs) garantiert zu einem globalen Maximum konvergieren? Wenn ja warum? Welche Einschränkungen gibt es für die Verbindungsfunktion, um die Konvexität sicherzustellen? Mein Verständnis von GLMs ist, dass sie eine hochgradig nichtlineare Wahrscheinlichkeitsfunktion maximieren. Daher würde ich mir vorstellen, dass es mehrere lokale Maxima …

16 generalized-linear-model  optimization  convergence  exponential-family 

\newcommand{\E}{\mathbb{E}} Wie lautet die -Normalisierungstransformation für die Exponentialfamilie? abgeleitet? A ( ⋅ ) = ∫ d uV 1 / 3 ( μ )A(⋅)=∫duV1/3(μ)A(\cdot) = \displaystyle\int\frac{du}{V^{1/3}(\mu)} Genauer gesagt : Ich habe versucht, der Taylor-Erweiterungsskizze auf Seite 3, Folie 1, zu folgen, habe aber mehrere Fragen. Mit aus einer Exponentialfamilie, Transformation und …

15 data-transformation  residuals  asymptotics  exponential-family 

Auswahl der Parametrisierung der Gammaverteilung durch das PDF Die Kullback-Leibler-Divergenz zwischen und ist gegeben durch [1] alsΓ(b,c)Γ(b,c)\Gamma(b,c)g(x;b,c)=1Γ(c)xc−1bce−x/bg(x;b,c)=1Γ(c)xc−1bce−x/bg(x;b,c) = \frac{1}{\Gamma(c)}\frac{x^{c-1}}{b^c}e^{-x/b}Γ(bq,cq)Γ(bq,cq)\Gamma(b_q,c_q)Γ(bp,cp)Γ(bp,cp)\Gamma(b_p,c_p) KLGa(bq,cq;bp,cp)=(cq−1)Ψ(cq)−logbq−cq−logΓ(cq)+logΓ(cp)+cplogbp−(cp−1)(Ψ(cq)+logbq)+bqcqbpKLGa(bq,cq;bp,cp)=(cq−1)Ψ(cq)−log⁡bq−cq−log⁡Γ(cq)+log⁡Γ(cp)+cplog⁡bp−(cp−1)(Ψ(cq)+log⁡bq)+bqcqbp\begin{align} KL_{Ga}(b_q,c_q;b_p,c_p) &= (c_q-1)\Psi(c_q) - \log b_q - c_q - \log\Gamma(c_q) + \log\Gamma(c_p)\\ &\qquad+ c_p\log b_p - (c_p-1)(\Psi(c_q) + \log b_q) + \frac{b_qc_q}{b_p} \end{align} Ich vermute, dass Ψ(x):=Γ′(x)/Γ(x)Ψ(x):=Γ′(x)/Γ(x)\Psi(x):= \Gamma'(x)/\Gamma(x) die Digamma-Funktion …

15 kullback-leibler  gamma-distribution  exponential-family 

Hat eine Familie einer Distribution eine andere Definition für Statistik als in anderen Disziplinen? Im Allgemeinen ist eine Kurvenfamilie ein Satz von Kurven, von denen jede durch eine Funktion oder Parametrisierung gegeben ist, in der einer oder mehrere der Parameter variiert werden. Solche Familien werden beispielsweise zur Charakterisierung von elektronischen …

14 distributions  terminology  parametric  exponential-family 

Angenommen, eine skalare Zufallsvariable gehört zu einer Vektorparameter-Exponentialfamilie mit PDFXXX fX(x|θ)=h(x)exp(∑i=1sηi(θ)Ti(x)−A(θ))fX(x|θ)=h(x)exp⁡(∑i=1sηi(θ)Ti(x)−A(θ)) f_X(x|\boldsymbol \theta) = h(x) \exp\left(\sum_{i=1}^s \eta_i({\boldsymbol \theta}) T_i(x) - A({\boldsymbol \theta}) \right) wobei der Parametervektor ist und T ( x ) = ( T 1 ( x ) , T 2 ( x ) , ⋯ , T s …

11 variance  mean  exponential-family  sufficient-statistics 

In GLM wird unter der Annahme eines Skalars und θ für die zugrunde liegende Verteilung mit pdf f Y ( y | θ , τ ) = h ( y , τ ) exp ( θ y - A ( θ )Y.Y.Yθθ\theta Es kann gezeigt werden, dassμ=E(Y)=A'(θ) ist. Wenn die …

11 generalized-linear-model  exponential-family 

Für die Gauß - Verteilung mit unbekanntem Mittelwert und die Varianz, die ausreichenden Statistiken in dem Standard Exponentialfamilie ist Form . Ich habe eine Verteilung hat , die T ( x ) = ( x , x 2 , . . . , X 2 N )T(x)=(x,x2)T(x)=(x,x2)T(x)=(x,x^2)T(x)=(x,x2,...,x2N)T(x)=(x,x2,...,x2N)T(x)=(x,x^2,...,x^{2N}), wobei N eine …

10 normal-distribution  sampling  exponential-family 

Sei eine Zufallsstichprobe aus einer Verteilung für . DhX1,...,XnX1,...,Xn X_1, ...,X_nGeometric(θ)Geometric(θ)Geometric(\theta)0&lt;θ&lt;10&lt;θ&lt;10<\theta<1 pθ(x)=θ(1−θ)x−1I{1,2,...}(x)pθ(x)=θ(1−θ)x−1I{1,2,...}(x)p_{\theta}(x)=\theta(1-\theta)^{x-1} I_{\{1,2,...\}}(x) Finden Sie den unverzerrten Schätzer mit der minimalen Varianz fürg(θ)=1θg(θ)=1θg(\theta)=\frac{1}{\theta} Mein Versuch: Da die geometrische Verteilung aus der Exponentialfamilie stammt, ist die Statistik vollständig und für ausreichend . Auch wenn ein Schätzer für , ist es unverzerrt. …

10 probability  self-study  estimation  unbiased-estimator  exponential-family 

Meine Frage ergibt sich aus dem Lesen von Minkas "Schätzung einer Dirichlet-Verteilung" , in dem Folgendes ohne Beweis im Zusammenhang mit der Ableitung eines Maximum-Likelihood-Schätzers für eine Dirichlet-Verteilung auf der Grundlage von Beobachtungen von Zufallsvektoren angegeben wird: Wie immer bei der Exponentialfamilie sind bei einem Gradienten von Null die erwarteten …

10 self-study  maximum-likelihood  exponential-family  sufficient-statistics 

Sei X1,X2,...,XnX1,X2,...,XnX_1, X_2, . . . , X_n sind Zufallsvariablen mit pdf fX(x∣θ)=θ(1+x)−(1+θ)I(0,∞)(x)fX(x∣θ)=θ(1+x)−(1+θ)I(0,∞)(x)f_X(x\mid\theta) =\theta(1 +x)^{−(1+\theta)}I_{(0,\infty)}(x) wobei θ&gt;0θ&gt;0\theta >0 . Geben Sie den UMVUE von 1θ1θ\frac{1}{\theta} und berechne seine Varianz Ich habe zwei solcher Methoden für erhaltene UMVUEs gelernt: Cramer-Rao Lower Bound (CRLB) Lehmann-Scheffe davon Ich werde dies mit dem ersteren …

10 self-study  estimation  inference  exponential-family  umvue 

Aus dem elementaren Wahrscheinlichkeitskurs haben die Wahrscheinlichkeitsverteilungen wie Gauß, Poisson oder Exponential alle eine gute Motivation. Nachdem ich lange auf die Formel der exponentiellen Familienverteilungen gestarrt habe, bekomme ich immer noch keine Intuition. fX.( x ∣ θ ) = h ( x ) exp( η(θ)⋅T(x)-A(θ) )fX.(x∣θ)=h(x)exp⁡(η(θ)⋅T.(x)- -EIN(θ))f_{X}(x\mid {\boldsymbol {\theta }})=h(x)\exp …

10 exponential-family