Eine stochastisch ansteigende Exponentialfamilie, für die

Frage

Ein kleines Etwas, über das ich mich schon eine Weile gewundert habe:

Sei $P_\theta$ eine stochastisch ansteigende (Ein-Parameter-) Exponentialfamilie im Probenraum $\mathcal{X}$ wobei $\Theta\subset\mathbb{R}$ sein natürlicher Parameterraum ist, dh $\Theta$ die Menge von Werten, für die das cdf $F_\theta$ definiert ein Wahrscheinlichkeitsmaß. Stimmt es immer, dass

F_{θ} (x) ↗ 1 as θ ↘ inf Θ,

$F_\theta(x)\nearrow 1\qquad\mbox{as}\qquad\theta\searrow \inf\Theta,$ und

F_{θ} (x) ↘ 0 as θ ↗ sup Θ

$F_\theta(x)\searrow 0\qquad\mbox{as}\qquad\theta\nearrow \sup\Theta$ für alle

x \in X

$x\in\mathcal{X}$ die sich nicht an der Grenze von

X

$\mathcal{X}$ ?

Definitionen, ein Beispiel, Spekulation

Eine Verteilung $P_\theta$ über $\mathcal{X}$ parametrisiert durch $\theta\in\Theta$ stochastisch zu erhöhen , wenn, zum festen , aber willkürlichen $x\in\mathcal{X}$ , $F_\theta(x)$ abnimmt in $\theta$ , wobei $F_\theta(x)=\mbox{P}_\theta(X\leq x)$ .

Ein Beispiel ist die Binomialverteilung, wobei $\mathcal{X}=\{0,1,2,\ldots,n\}$ und der natürliche Parameterraum $\Theta=(0,1)$ .

F_{θ} (x) = \sum_{k \leq x} (\binom{n}{k}) θ^{k} (1 - θ)^{n - k}

$F_\theta(x)=\sum_{k\leq x}{\binom{n}{k}}\theta^k(1-\theta)^{n-k}$ nimmt in

θ

$\theta$ . Beispiel:

In dieser Einstellung haben wir und für alle nicht an der Grenze von . An der Grenze, dh wenn , wird nur eine der Grenzen erreicht.

F_{θ} (x) ↗ 1 as θ ↘ inf Θ = 0,

$F_\theta(x)\nearrow 1\qquad\mbox{as}\qquad\theta\searrow \inf\Theta=0,$

F_{θ} (x) ↘ 0 as θ ↗ sup Θ = 1

$F_\theta(x)\searrow 0\qquad\mbox{as}\qquad\theta\nearrow \sup\Theta=1$

x

$x$

X

$\mathcal{X}$

x \in {0, n}

$x\in \{0,n\}$

Beachten Sie, dass dies nicht mehr zutrifft , wenn wir den Parameterraum auf eine geeignete Teilmenge von wie : als . $(0,1)$ $(0.2,0.8)$ $F_\theta(5)\nearrow F_{0.2}(5)=0.174\ldots<1$ $\theta\searrow \inf\Theta=0.2$

Diese Eigenschaft scheint für alle häufig verwendeten Exponentialfamilien zu gelten, daher würde ich vermuten, dass ein Gegenbeispiel, wenn es existiert, etwas pathologisch sein muss. Es könnte möglicherweise Funktionen beinhalten, die bewirken, dass für ein endliches , wodurch sein Integral unendlich wird. In gewissem Sinne würde dies den Parameterraum "einschränken". $\exp(<\theta,T(x)>)$ $(\theta,x)$

Ein "triviales" Beispiel ist vielleicht die Bernoulli (p) -Verteilung, da ihr Probenraum seiner eigenen Grenze entspricht, so dass für jeden Punkt im Probenraum nur eine der Grenzen erreicht werden kann. Aber das ist ein bisschen langweilig, und ich hätte lieber ein Beispiel, bei dem mindestens ein Punkt des Probenraums nicht in der Grenze liegt.

distributions mathematical-statistics exponential-family

— MånsT
quelle

Ist es möglich, dass nur diskrete Verteilungen der Exponentialfamilie mit einem Parameter stochastisch zunehmen? Weil beispielsweise das Exponential, das Chi-Quadrat und das Beta mit einem festen Parameter die entgegengesetzte Beziehung zwischen dem cdf und dem Parameter aufweisen.

— Alecos Papadopoulos

@Alecos: das wäre hilfreich gewesen, ist aber leider nicht der Fall. Ob es zunimmt oder abnimmt, ist eine Frage der Parametrisierung. Im Fall der Exponentialverteilung nimmt sie beispielsweise zu oder ab, je nachdem, ob oder als Parameter verwendet wird.

E (X)

$E(X)$

1 / E (X)

$1/E(X)$

— MånsT

Wenn wir uns nicht auf die natürliche Parametrisierung beschränken, ist es einfacher, ein Gegenbeispiel zu finden (siehe meine Antwort). Aber selbst mit wir durch Umkehren des Vorzeichens von von abnehmend zu zunehmenden gehen .

η (θ) = θ

$\eta(\theta) = \theta$

T (x)

$T(x)$

— Juho Kokkala

Beachten Sie, dass der natürliche Parameter für Binomial die log-Odds . Dies ist jedoch eine monoton ansteigende Funktion von so dass das Ergebnis dasselbe ist.

\log (\frac{p}{1 - p})

$\log \left(\frac {p }{1-p}\right)$

p

$p$

— Wahrscheinlichkeitslogik

Juho: Um wirklich interessant zu sein, sollte die Parametrisierung der Verwendung des natürlichen Parameters entsprechen. Vielleicht zeigt mein Binomialbeispiel, was eine "gültige" Parametrisierung wäre: Wie @probabilityislogic hervorhob, habe ich in meinem Beispiel nicht die natürliche Parametrisierung verwendet, sondern eine, die eine Bijektion des natürlichen Parameters ist.

— MånsT

Antworten:

Wenn Diskontinuitäten in der Dichte zulässig sind, ist es möglich, eine Verteilung zu konstruieren, die sich über zwei aufeinanderfolgende Intervalle wiederholt, wodurch die CDF im ersten Intervall auf und im zweiten Intervall auf . Zum Beispiel sei Für eine Dichte proportional zu ist die CDF $[0,0.5]$ $[0.5,1]$

h (x) = 1, x \in [0, 4]

$\begin{equation} h(x) = 1, x\in [0,4] \end{equation}$

T (x) = {\begin{cases} 1 & x \in [0, 1) \cup [2, 3) \\ 2 & x \in [1, 2) \cup [3, 4] \end{cases}

$\begin{equation} T(x) = \left\{ \begin{array}{ll} 1 & \quad x \in [0,1) \cup[2,3) \\ 2 & \quad x \in [1,2) \cup [3,4] \end{array} \right. \end{equation}$

h (x) e^{θ T (x)}

$h(x)e^{\theta T(x)}$

F_{θ} (x) = {\begin{cases} \frac{1}{2} \frac{x}{1 + e^{θ}} & x \in [0, 1) \\ \frac{1}{2} \frac{1 + (x - 1) e^{θ}}{1 + e^{θ}} & x \in [1, 2) \\ \frac{1}{2} + \frac{1}{2} \frac{x - 2}{1 + e^{θ}} & x \in [2, 3) \\ \frac{1}{2} + \frac{1}{2} \frac{1 + (x - 3) e^{θ}}{1 + e^{θ}} & x \in [3, 4) \end{cases}

$\begin{equation} F_\theta(x) = \left\{ \begin{array}{ll} \frac{1}{2}\,\frac{x}{1+e^\theta} & \quad x \in [0,1) \\ \frac{1}{2}\, \frac{1 + (x-1)e^\theta}{1+e^\theta} & \quad x \in [1,2) \\ \frac{1}{2} + \frac{1}{2}\,\frac{x-2}{1+e^\theta} & \quad x \in [2,3) \\ \frac{1}{2} + \frac{1}{2}\, \frac{1 + (x-3)e^\theta}{1+e^\theta} & \quad x \in [3,4) \\ \end{array} \right. \end{equation}$ die als Funktion von für jedes im Probenraum abnimmt , aber zum Beispiel

θ

$\theta$

x

$x$

lim_{θ \to \infty} F_{θ} (2.1) = \frac{1}{2} .

$\begin{equation} \lim_{\theta \rightarrow \infty} F_\theta(2.1) = \frac{1}{2}. \end{equation}$

— Juho Kokkala
quelle

Auch dies ist ein Trick, nach dem Sie möglicherweise nicht suchen. Außerdem war ich mir nicht sicher, ob es besser war, meine vorherige Antwort zu bearbeiten oder diese als separate Antwort zu veröffentlichen. Basierend auf meta.stackexchange.com/questions/28471/two-answers-one-question entschied ich mich jedoch für eine bessere Trennung, da dies zwei verschiedene Ansätze sind.

— Juho Kokkala

Ich finde diesen Trick eigentlich sehr ansprechend! :) Vielen Dank.

— MånsT

Basierend auf Kommentaren sind wir nicht auf die Berücksichtigung des natürlichen Parameters beschränkt, sondern dürfen die allgemeine Form In diesem Fall ist es möglich zu "betrügen", indem so konstruiert wird , dass einige Werte im natürlichen Raum von mit keinem . Zum Beispiel sei Dies ist eine (seltsam parametrisierte) Exponentialverteilung mit CDF die abnimmt Funktion für wie gewünscht. Jedoch,

f_{θ} (x) \propto h (x) e^{T (x) η (θ)}

$\begin{equation} f_\theta(x) \propto h(x) e^{T(x)\eta(\theta)} \end{equation}$

η

$\eta$

η

$\eta$

θ

$\theta$

f_{θ} (x) \propto e^{- x \frac{1}{1 + e^{θ}}}, x \geq 0

$\begin{equation} f_\theta(x) \propto e^{-x\,\frac{1}{1+e^\theta}},~x\geq0 \end{equation}$

F_{θ} (x) = 1 - e^{- x / (1 + e^{θ})},

$\begin{equation} F_\theta(x) = 1 - e^{-x / ({1+e^\theta})}, \end{equation}$

θ

$\theta$

lim_{θ \to - \infty} F_{θ} (x) = 1 - e^{- x} < 1.

$\begin{equation} \lim_{\theta\rightarrow -\infty} F_\theta(x) = 1-e^{-x} < 1. \end{equation}$ Der Fall mit natürlicher Parametrisierung bleibt offen (zumindest für mich).

(η (θ) = θ)

$(\eta(\theta) = \theta)$

— Juho Kokkala
quelle

Das ist sehr klug, aber nicht ganz das, was ich mir vorgestellt habe! Die Antwort, nach der ich suche, muss nicht unbedingt mit der natürlichen Parametrisierung geschrieben werden, aber die Parametrisierung sollte der natürlichen entsprechen. Ihr Vorschlag entspricht der Verwendung der natürlichen Parametrisierung mit einem eingeschränkten Parameterraum, und wie ich in meiner Frage geschrieben habe, führt dies in der Tat dazu, dass das PDF die richtigen Grenzen verliert. Davon abgesehen kann ich Ihnen das Kopfgeld gut belohnen, wenn nicht andere Antworten auftauchen!

— MånsT