Wie viele Momente definieren eine Distribution mit endlicher Unterstützung eindeutig?

Einfache Frage, aber eine, auf die ich anderswo keine genaue Antwort finden konnte. Wie viele Momente einer diskreten Wahrscheinlichkeitsverteilung mit endlicher Unterstützung sind erforderlich, um die genaue Wahrscheinlichkeitsmassenfunktion eindeutig zu identifizieren? Angenommen, wir wissen, dass die Verteilung höchstens Punkte innerhalb eines begrenzten Intervalls unterstützt (für meine Zwecke ist das Intervall ), aber wir kennen die Punkte nicht. $N$ $[0, 1]$

Ist es so, dass die Verteilung durch eine bestimmte Anzahl von Momenten eindeutig identifiziert wird? Meine Hypothese ist, dass es die ersten $2N-1$ Momente sein können. Da wir $N$ Massenpunkte und ihre $N$ individuellen Wahrscheinlichkeiten identifizieren müssen , könnte man denken, wir brauchen $2N$ Gleichungen und jeder Moment gibt uns eine Gleichung plus die Einschränkung, dass die Wahrscheinlichkeiten zu $1$ summieren . Aber diese Gleichungen sind in den Massenpunkten nicht linear, so dass mir nicht sofort klar ist, dass wir identifiziert sind.

Ich bin mir des Hausdorff-Moment-Problems bewusst , daher weiß ich, dass eine unendliche Folge von Momenten jede begrenzte Verteilung eindeutig identifiziert, aber ich bin besonders daran interessiert, die Domäne weiter auf Verteilungen mit endlicher Unterstützung zu beschränken. Alle Referenzen wäre auch dankbar!

Vielen Dank!

probability moments simultaneous-equation

— haus_off_space
quelle

Wenn die Punkte des Unterstützungssatzes gleichmäßig verteilt sind, kann ich beweisen, dass Sie nur die ersten Momente kennen müssen. Dies liegt daran, dass die Momenterzeugungsfunktion dann in diesem Fall ein Polynom ten Grades von ist und jedes Polynom vom Grad eindeutig bestimmt wird, wenn Sie die ersten Ableitungen an einem Punkt kennen, was natürlich gerecht ist Was sind die Momente. Ich sehe keinen offensichtlichen Weg, dies für den allgemeineren Fall zu beweisen, in dem die Stützpunkte nicht gleichmäßig verteilt sind. Ich vermute, Sie müssen die unendliche Abfolge von Momenten kennen.

N + 1

$N+1$

N

$N$

e^{t}

$e^t$

n

$n$

n + 1

$n+1$

— Olooney

Haben Sie im ungleichmäßigen Abstand ein einfaches Beispiel, in dem Sie die Massenpunkte und ihre Gewichte nicht mit Momenten bestimmen können ? Oder eine Intuition dafür, warum man denkt, man würde die volle unendliche Sequenz brauchen?

2 N + 1

$2N + 1$

— Housed_off_space

Ein Gegenbeispiel wäre sehr schwer zu produzieren; Zumindest wären mindestens drei Unterstützungspunkte erforderlich, nicht alle mit rationalen Verhältnissen. Die Menge kann kein Zählerbeispiel liefern, da dies auch ein Polynom in . Ein Satz wie könnte ein Gegenbeispiel sein.

{0, \frac{1}{3}, 1}

$\{0, \frac{1}{3}, 1\}$

e^{t / 3}

$e^{t/3}$

{0, \frac{π}{4}, 1}

$\{ 0, \frac{\pi}{4}, 1 \}$

— Olooney

Ich denke, es könnte eine unendliche Sequenz erfordern, weil dies im Allgemeinen der Fall ist. Um eine analytische Funktion eindeutig zu bestimmen (die charakteristische Funktion und mgf einer diskreten Verteilung sind analytisch, weil es sich um die Summe endlich vieler analytischer Funktionen handelt), müssen wir entweder 1) den Wert der Funktion an einer unendlichen Folge von Punkten oder 2 kennen ) alle Ableitungen der Funktion an einem einzelnen Punkt oder 3) der Wert der Funktion in einer offenen Scheibe um einen Punkt. Eine endliche Stichprobe oder die Kenntnis nur endlich vieler Ableitungen reicht nicht aus, um sie eindeutig zu bestimmen.

— Olooney

Der Grund, warum wir dafür sorgen können, dass es für Polynome funktioniert, ist, dass sie eine spezielle Struktur haben - insbesondere ist jede Ableitung nach einem bestimmten Punkt Null. Die Struktur der charakteristischen Funktion ist ebenfalls speziell: Sie hat die Form . Aber ist das etwas Besonderes? Könnte sein; Ich weiß nur nicht, wie ich es beweisen soll.

\sum_{k = 1}^{N} p_{k} e^{x_{k} t}

$\sum_{k=1}^N p_k e^{{x_k}t}$

— Olooney

Sei die Verteilung, die auf den Zahlen , die jedem die Wahrscheinlichkeiten Per Definition sein (raw) Moment Grad ist $F$ $x_1 \lt x_2 \lt \ldots \lt x_n$ $p_i \gt 0$ $x_i.$ $k$

μ_{k} = \sum_{i = 1}^{n} p_{i} x_{i}^{k} .

$\mu_k = \sum_{i=1}^n p_i x_i^k.$

Ich werde mit einer Reihe von Beobachtungen über diese Situation beginnen, von denen jede für sich von Interesse ist. Ein grundlegendes Werkzeug ist die Folge von Vektoren für Wenn Sie schreiben jeder Moment als Vektorprodukt ausgedrückt werden $\mathbf{x}_k = (x_1^k, x_2^k, \ldots, x_n^k)$ $k=0, 1, \ldots,n-1.$ $\mathbf{p} = (p_1,p_2,\ldots, p_n),$

μ_{k} = \sum_{i = 1}^{n} p_{i} x_{i}^{k} = p x_{k}^{'} .

$\mu_k = \sum_{i=1}^n p_i x_i^k = \mathbf{p}\, \mathbf{x}_k^\prime.$

Die Sammlung ist linear unabhängig. $\{\mathbf{x}_0,\mathbf{x}_1, \ldots, \mathbf{x}_{n-1}\}$ Um dies zu zeigen, nehmen Sie das Gegenteil an: Das heißt, die Koeffizienten nicht alle Null, so dass Komponente für Komponente ausgeschrieben, behauptet, dass für jedes Das zeigt jedes als Wurzel des PolynomsEin solches Polynom hat höchstens verschiedene Wurzeln, was der Unterscheidbarkeit von widerspricht $c_k$
$\begin{matrix} (1) & \sum_{k = 0}^{n - 1} c_{k} x_{k} = 0 . \end{matrix}$ $\sum_{k=0}^{n-1} c_k \mathbf{x}_k = \mathbf{0}.\tag{1}$ $(1)$ $i=1,2,\ldots, n,$ $\sum_{k = 0}^{n - 1} c_{k} x_{i}^{k} = 0.$ $\sum_{k=0}^{n-1} c_k x_i^k = 0.$ $x_i$ $c(T)=c_{n-1}T^{n-1}+c_{n-2}T^{n-2}+\cdots + c_0.$ $\operatorname{deg}(c)\le n-1$ $n$ $x_i.$
Alle Momente werden durch die ersten Momente $n$ $\mu_0,\mu_1,\ldots,\mu_{n-1}.$ Das vorstehende Ergebnis zeigt, dass die Vektoren eine Basis für Daher für jedes eine lineare Kombination vondas heißt, es existieren Koeffizienten (bestimmt nur durch ), für die Folglich $\mathcal{X} = \{\mathbf{x}_k,k=0,1,\ldots, n-1\},$ $\mathbb{R}^n.$ $m,$ $\mathbf{x}_m$ $\mathbf{x}^k,$ $k=0,1,\ldots,n-1;$ $\,_ma_k$ $x_i$
$x_{m} =_{m} a_{0} x_{0} +_{m} a_{1} x_{1} + \dots +_{m} a_{n - 1} x_{n - 1} .$ $\mathbf{x}_m = \,_ma_0\mathbf{x}_0 + \,_ma_1\mathbf{x}_1 + \cdots + \,_ma_{n-1}\mathbf{x}_{n-1}.$ $μ_{m} = p x_{m}^{'} = p \sum_{i = 0}^{n - 1}_{m} a_{k} x_{k}^{'} = \sum_{i = 0}^{n - 1}_{m} a_{k} p x_{k}^{'} = \sum_{i = 0}^{n - 1}_{m} a_{k} μ_{k} .$ $\mu_m = \mathbf{p}\,\mathbf{x}_m^\prime = \mathbf{p}\,\sum_{i=0}^{n-1}\,_ma_k \mathbf{x}_k^\prime = \sum_{i=0}^{n-1}\,_ma_k \mathbf{p}\,\mathbf{x}_k^\prime= \sum_{i=0}^{n-1}\,_ma_k \mu_k.$
Die Zahlen und die ersten Momente bestimmen $x_i$ $n$ $\mathbf{p}.$ In der Tat sind die ersten Momente die Koeffizienten von in der Basis dual zu $n$ $\mathbf{p}$ $\mathcal X.$
Die ersten Momente von bestimmen und werden durch die Verteilung bestimmt, die um eine Konstante verschoben ist $n$ $F$ $\lambda.$ Dies ist die Verteilung, die für mit den Wahrscheinlichkeiten Die Demonstration ist unkompliziert: Verwenden Sie den Binomialsatz, um in Bezug auf $x_1-\lambda, x_2-\lambda, \ldots, x_n-\lambda$ $p_i.$ $(x_i-\lambda)^k$ $x_i^0, x_i^1, \ldots, x_i^k.$

Ein Teil der Frage ist, ob es einen positiven Wahrscheinlichkeitsvektor und Stützpunkte die eine Verteilung mit dem bestimmen gleiche Momente wie Angenommen, es gibt. Verschieben Sie beide Verteilungen um um die Situation auf Verteilungen mit nicht negativer Unterstützung zu vereinfachen . Wenn Sie beliebig groß nehmen, dominieren schließlich die größten Stützpunkte die Momente: Dies ist nur möglich, wenn und $n^\prime,$ $\mathbf{q},$ $y_1\lt y_2\lt \ldots \lt y_{n^\prime},$ $G$ $F.$ $\lambda=-\min(x_1,y_1),$ $m$

q_{n^{'}} y_{n^{'}}^{m} \approx μ_{m} \approx p_{n} x_{n}^{m}

$q_{n^\prime} y_{n^\prime}^m \approx \mu_m \approx p_n x_n^m$

q_{n^{'}} = p_{n}

$q_{n^\prime}=p_n$

y_{n^{'}} = x_{n} .

$y_{n^\prime} = x_n.$ Wenn wir induktiv fortfahren, schließen wir und das heißt,

n = n^{'},

$n=n^\prime,$

q = p,

$\mathbf{q}=\mathbf{p},$

x_{1} = y_{1} :

$\mathbf{x}_1=\mathbf{y}_1:$

G = F .

$G=F.$

Wie viele Momente müssen schließlich bekannt sein, um und zu bestimmen ? Betrachten Sie die durch definierte ZuordnungSeine Ableitung ist die Matrix $\mathbf{p}$ $\mathbf{x}$ $f:\mathbb{R}^n\times \mathbb{R}^n\approx \mathbb{R}^{2n}\to\mathbb{R}^{2n}$

f (p^{'}, x^{'}) = (p x_{0}^{'}, p x_{1}^{'}, \dots, p x_{2 n - 1}^{'})^{'} .

$f(\mathbf{p}^\prime, \mathbf{x}^\prime) = (\mathbf{p}\mathbf{x}_0^\prime, \mathbf{p}\mathbf{x}_1^\prime, \ldots, \mathbf{p}\mathbf{x}_{2n-1}^\prime)^\prime.$

2 n \times 2 n

$2n\times 2n$

D f (p^{'}, x^{'}) = (\begin{matrix} 1 & \dots & 1 & 0 & \dots & 0 \\ x_{1} & \dots & x_{n} & p_{1} & \dots & p_{n} \\ x_{1}^{2} & \dots & x_{n}^{2} & 2 p_{1} x_{1} & \dots & 2 p_{n} x_{n} \\ ⋮ & \dots & ⋮ & ⋮ & \dots & ⋮ \\ x_{1}^{2 n - 1} & \dots & x_{n}^{2 n - 1} & (2 n - 1) p_{1} x_{1}^{2 n - 2} & \dots & (2 n - 1) p_{n} x_{n}^{2 n - 2} \end{matrix})

$Df(\mathbf{p}^\prime, \mathbf{x}^\prime) = \pmatrix{1 & \cdots & 1 & 0 & \cdots & 0 \\ x_1 & \cdots & x_n & p_1 & \cdots & p_n \\ x_1^2 & \cdots & x_n^2 & 2p_1x_1 & \cdots & 2p_n x_n \\ \vdots & \cdots & \vdots & \vdots & \cdots & \vdots \\ x_1^{2n-1} & \cdots & x_n^{2n-1} & (2n-1)p_1x_1^{2n-2} & \cdots & (2n-1)p_nx_n^{2n-2}}$

mit einer Vandermonde-ähnlichen Struktur, die es uns ermöglicht, eine einfache Formel für ihre Determinante zu erhalten,

Det (D f (p^{'}, x^{'})) = - (p_{1} p_{2} \dots p_{n})^{2 n} {(\prod_{1 \leq i < j \leq n} (x_{i} - x_{j}))}^{4} .

$\operatorname{Det}\left(Df(\mathbf{p}^\prime, \mathbf{x}^\prime)\right) = -(p_1p_2\cdots p_n)^{2n} \left(\prod_{1\le i\lt j \le n}(x_i-x_j)\right)^4.$

Da keines der Null ist und alle sind, ist dies ungleich Null. Der Inverse-Funktionssatz impliziert, dass lokal invertierbar ist: Das heißt, wenn im Bereich von , existiert eine Inverse in einer Nachbarschaft von Das ist, $p_i$ $x_i$ $f$ $\mathbf{\mu}=(\mu_0,\mu_1,\ldots,\mu_{2n-1})$ $f$ $f^{-1}\subset\mathbb{R}^n\times \mathbb{R}^n$ $\mathbf{\mu}.$

Die ersten Momente bestimmen einen diskreten Satz von Lösungen , die diesen Momenten entsprechen. $2n$ $\mu_0,\mu_1,\ldots,\mu_{2n-1}$ $(\mathbf{p},\mathbf{x})$

Wie wir bereits gezeigt haben, entsprechen alle diese Lösungen der gleichen Verteilung: Sie unterscheiden sich nur durch Permutieren der Indizes der Variablen. $1,2,\ldots, n$

— whuber
quelle

Wie gehen wir von lokal invertierbar zu einzigartig? Die Funktion ist in der Nähe von 0 lokal invertierbar, aber das verhindert nicht, dass auch wahr ist, da außerhalb der Nachbarschaft liegt wo funktioniert. Warum könnte es keinen Punkt außerhalb der Nachbarschaft geben, so dass auch gleich ?

\sin (x)

$\sin(x)$

\sin (π) = 0

$\sin(\pi) = 0$

π

$\pi$

(- π / 2, π / 2)

$(-\pi/2, \pi/2)$

\sin^{- 1}

$\sin^{-1}$

(p^{″}, x^{″})

$(\mathbf{p}'', \mathbf{x}'')$

f (p^{″}, x^{″})

$f(\mathbf{p}'', \mathbf{x}'')$

(μ_{0}, . . ., μ_{2 n - 1})

$(\mu_0, ..., \mu_{2n-1})$

— Olooney

@olooney Ich habe die Einzigartigkeit zuerst in dem Sinne bewiesen, dass es eine eindeutige Verteilung gibt, die durch die Informationen bestimmt wird: siehe den Absatz, der mit "Teil der Frage" beginnt. Sie haben Recht, dass lokal invertierbar keine eindeutige Funktion das ist der Punkt der letzten Bemerkung. In der Tat gibt esLösungen.

f :

$f:$

n!

$n!$

— whuber