Wahrscheinlichkeitsfunktion von abgeschnittenen Daten

Ich habe ein wenig Probleme, das Konzept und die Ableitung der Wahrscheinlichkeit von Datenkürzungen zu verstehen.

Wenn ich zum Beispiel die Wahrscheinlichkeitsfunktion basierend auf einer Stichprobe aus einer Verteilung finden möchte, aber wenn ich eine Stichprobe aus der Verteilung nehme, beobachte ich die abgeschnittenen Werte (wobei es einen Grenzwert für $M$ , dh ein beliebiges $x_{i}>M$ wird aufgezeichnet als $M$ ):

$x_{1}, x_{2}, M, x_{3}, M, x_{4}, x_{5}, ..., x_{10}$

wobei die Anzahl der $M$ Werte $m$ . Dann ist die Wahrscheinlichkeit angeblich gegeben durch:

$L(x;\theta) = \prod_{i=1}^{10}f(x_{i};\theta)*[P(X>M)]^{m}$

Ich würde mich sehr über eine Erklärung / einen Beweis dafür freuen, warum dies so ist, und vor allem darüber, warum der zweite Faktor so ist, wie er ist. Wenn möglich intuitiv und mathematisch. Vielen Dank im Voraus.

dataset likelihood

— Delvesy
quelle

Was ist Kleinbuchstaben "

m

$m$ "?

— Alecos Papadopoulos

Es ist die Anzahl der Vorkommen von

.. dh ich habe

Datenpunkte beobachtet , von denen

nicht abgeschnitten sind, und

von ihnen sind (ich beobachte diese

Picks, alle mit dem Wert

)

M

$M$

10 + m

$10 + m$

10

$10$

m

$m$

m

$m$

M

$M$

— Delvesy

Wie @Alecos hervorhebt, verwenden Sie "abgeschnitten" eigenwillig. "Zensiert" ist der übliche Begriff.

— Scortchi - Monica wieder einsetzen

Einige andere Begriffe, nach denen Sie möglicherweise suchen möchten: "Decken- / Bodeneffekte", "Beta-Regression" und "Modelle ohne Inflation".

— DWin

Antworten:

Was Sie beschreiben, bedarf einer besonderen Behandlung, es ist nicht das, was wir normalerweise mit "abgeschnittenen Zufallsvariablen" meinen - und was wir normalerweise meinen, ist, dass die Zufallsvariable nicht außerhalb der abgeschnittenen Unterstützung liegt, was bedeutet, dass es keine Konzentration der Wahrscheinlichkeitsmasse bei gibt der Punkt der Kürzung. Um Fälle zu kontrastieren:

A) "Übliche" Bedeutung eines abgeschnittenen RV
Für jede Verteilung, bei der wir seine Unterstützung abschneiden, müssen wir seine Dichte "korrigieren", damit sie sich zur Einheit integriert, wenn sie über die abgeschnittene Unterstützung integriert wird. Wenn die Variable Unterstützung in , , dann (pdf , cdf ) $[a,b]$ $-\infty < a < b < \infty$ $f$ $F$

\int_{a}^{b} f_{X} (x) d x = \int_{a}^{M} f_{X} (x) d x + \int_{M}^{b} f_{X} (x) d x = \int_{a}^{M} f_{X} (x) d x + [1 - F_{X} (M)] = 1

$\int_a^bf_X(x)dx = \int_a^Mf_X(x)dx+\int_M^bf_X(x)dx = \int_a^Mf_X(x)dx + \left[1-F_X(M)\right]=1$

\Rightarrow \int_{a}^{M} f_{X} (x) d x = F_{X} (M)

$\Rightarrow \int_a^Mf_X(x)dx = F_X(M)$

Da die LHS das Integral über dem abgeschnittenen Träger ist, sehen wir, dass die Dichte des abgeschnittenen rv, genannt , sein muss $\tilde X$

so dass es sich über zur Einheit integriert. Der Mittelbegriff im obigen Ausdruck lässt uns diese Situation (zu Recht) als eine Form derKonditionierung betrachten

f_{\tilde{X}} (\tilde{x}) = f_{X} (x ∣ X \leq M) = f_{X} (x) d x \cdot {[F_{X} (M)]}^{- 1}

$f_{\tilde X}(\tilde x) = f_{X}(x\mid X\le M)=f_X(x)dx\cdot \left[F_X(M)\right]^{-1}$

[a, M]

$[a, M]$ -Aber nicht auf einer anderen Zufallsvariablen, sondern auf den möglichen Werten, die der RV selbst annehmen kann. Hier wäre eine gemeinsame Dichte / Wahrscheinlichkeitsfunktion einer Sammlung von

abgeschnittenen iid rvs wie üblich das

fache der obigen Dichte.

n

$n$

n

$n$

B) Wahrscheinlichkeitsmassenkonzentration
Hier, was Sie in der Frage beschreiben, sind die Dinge anders. Der Punkt konzentriert die gesamte Wahrscheinlichkeitsmasse, die der Unterstützung der Variablen entspricht, die höher als . Dies erzeugt einen Punkt der Diskontinuität in der Dichte und macht sie zu zwei Zweigen $M$ $M$

\begin{aligned} f_{X^{*}} (x^{*}) & = f_{X} (x^{*}) x^{*} < M \\ f_{X^{*}} (x^{*}) & = P (X^{*} \geq M) x^{*} \geq M \end{aligned}

$\begin{align} f_{X^*}(x^*) &= f_X(x^*) \qquad x^*<M\\ f_{X^*}(x^*) &= P(X^* \ge M) \qquad x^*\ge M\\ \end{align}$

Formlos, ist die zweite „wie ein diskretes rv“ , wobei jeder Punkt in der Wahrscheinlichkeitsmassenfunktion tatsächliche Wahrscheinlichkeiten darstellt. Nehmen wir nun an, wir haben solche iid-Zufallsvariablen und wollen ihre gemeinsame Dichte / Wahrscheinlichkeitsfunktion bilden. Welchen Zweig sollten wir wählen, bevor wir uns die tatsächliche Stichprobe ansehen? Wir können diese Entscheidung nicht treffen, also müssen wir beide irgendwie einbeziehen. Dazu müssen wir Indikatorfunktionen verwenden: bezeichne die Indikatorfunktion, die den Wert annimmt, wenn $n$ $I\{x^*\ge M\}\equiv I_{\ge M}(x^*)$ $1$ $x^*\ge M$ und sonst . Die Dichte eines solchen rv kann geschrieben werden $0$

und damit die Gelenkdichtefunktion von solche iid Variablen ist

f_{X^{*}} (x^{*}) = f_{X} (x^{*}) \cdot [1 - I_{\geq M} (x^{*})] + P (X^{*} \geq M) \cdot I_{\geq M} (x^{*})

$f_{X^*}(x^*) = f_X(x^*)\cdot \left[1-I_{\ge M}(x^*)\right]+P(X^* \ge M)\cdot I_{\ge M}(x^*)$

n

$n$

f_{X^{*}} (X^{*} ∣ θ) = \prod_{i = 1}^{n} [f_{X} (x_{i}^{*}) \cdot [1 - I_{\geq M} (x_{i}^{*})] + P (X_{i}^{*} \geq M) \cdot I_{\geq M} (x_{i}^{*})]

$f_{X^*}(\mathbf X^*\mid \theta) = \prod_{i=1}^n\Big[f_X(x^*_i)\cdot \left[1-I_{\ge M}(x^*_i)\right]+P(X^*_i \ge M)\cdot I_{\ge M}(x^*_i)\Big]$

$n$ $M$ $m$ $M$ $v$ $m+v=n$ $m$ $P(X^*_i \ge M)$ $v$

\begin{aligned} L (θ ∣ {x_{i}^{*}; i = 1, . . . n}) & = \prod_{i = 1}^{v} [f_{X} (x_{i}^{*})] \cdot \prod_{j = 1}^{m} [P (X_{j}^{*} \geq M)] \\ = \prod_{i = 1}^{v} [f_{X} (x_{i}^{*})] \cdot [P (X^{*} \geq M)]^{m} \end{aligned}

$\begin{align} L(\theta\mid \{x_i^*;\,i=1,...n\})&= \prod_{i=1}^v\Big[f_X(x^*_i)\Big]\cdot \prod_{j=1}^m\Big[P(X^*_j \ge M)\Big] \\& = \prod_{i=1}^v\Big[f_X(x^*_i)\Big]\cdot \Big[P(X^* \ge M)\Big]^m\\ \end{align}$

— Alecos Papadopoulos
quelle

Vielen Dank. Ich freue mich sehr über die Antwort. Ich denke, mein Hauptproblem ist der erste Punkt unter Abschnitt b) ... dh wie der "zweite Zweig" des PDF definiert ist. Es ist ein diskretes PMF und definiert ein PDF nicht wirklich aus der Definition eines PDF. Könnte dieser Abschnitt weiter erläutert werden? Vielen Dank.

— Delvesy

Diese Zufallsvariablen werden als "gemischter Typ" bezeichnet, dh sie sind teilweise kontinuierlich und teilweise diskret. Intuitiv macht es offensichtlich Sinn, wie Ihre Fragen zeigen. Suchen Sie für eine strenge Behandlung nach "Zufallsvariablen vom gemischten Typ" oder "Verteilungen vom gemischten Typ". Verwechseln Sie sie nicht mit "Mischungen".

— Alecos Papadopoulos

Die Wahrscheinlichkeitstheorie ist ein ziemlich allgemeiner Rahmen. Die meisten Lehrbücher geben Ergebnisse für die getrennten Fälle von kontinuierlichen Hochspannungen und für diskrete Hochspannungsfälle an. In der Praxis treten jedoch gemischte Fälle auf, wie dies hier der Fall ist.

$A$ $a$ $a$ $p_A(a)$ $L$ $x$ $f_X(x)$ $x_{\textrm{L}} < X < x_{\textrm{U}}$ $\Pr\left\{x_{\textrm{L}} < X < x_{\textrm{U}}\right\}$ $x_{\textrm{L}}:= x - \textrm{d}x/2$ $x_{\textrm{U}}:= x + \textrm{d}x/2$ $\mathrm{d}x$ $f_X(x)$ $\mathrm{d}x$

Für ein paar rv und mit diskreten / kontinuierlichen gemischten Verbindungstypen ist die Wahrscheinlichkeit die Gelenkverteilung, die normalerweise unter Verwendung bedingter Verteilungen ausgedrückt wird, z. B. So für ein Intervall mit geringer Länge , ist mal die Dichte von abhängig , sagen wir $A$ $X$

L := Pr {A = a, x_{L} < X < x_{U}} = Pr {A = a} \times Pr {x_{L} < X < x_{U} | A = a} .

$L := \textrm{Pr}\left\{ A = a, \, x_{\textrm{L}} < X < x_{\textrm{U}} \right\} = \textrm{Pr}\left\{ A = a \right\} \times \textrm{Pr} \left\{x_{\textrm{L}} < X < x_{\textrm{U}} \, \vert\, A = a\right\}.$

(x_{L}, x_{U})

$(x_{\textrm{L}},\, x_{\textrm{U}})$

d x

$\textrm{d}x$

L

$L$

p_{A} (a)

$p_A(a)$

X

$X$

{A = a}

$\{A=a\}$

f_{X | A} (x | a)

$f_{X \vert A}(x \,\vert \,a)$ . Auch hier lassen wir den Term weg.

d x

$\mathrm{d}x$

Kommen wir nun zu Ihrem Beispiel zurück und betrachten nur eine Beobachtung. Dann ist ein Bernoulli rv mit der Erfolgswahrscheinlichkeit . Je nach oder nicht, entweder beobachten Sie nur oder Sie beide beobachten und den Wert von . In beiden Fällen verwenden Sie die obige Formel, aber wird entweder als oder als Intervall kleiner Länge verwendet mit . In der Tat gibt dies $A = 1_{\{X > M\}}$ $\Pr\{X > M\}$ $X > M$ $A = 1$ $A = 0$ $x$ $X$ $(x_{\textrm{L}},\, x_{\textrm{U}})$ $(M,\,\infty)$ $\textrm{d}x$ $x$

L = {\begin{cases} Pr {X > M} \times 1 & if X > M i.e. A = 1, \\ Pr {X \leq M} \times f_{X | A} (x | a) d x & if X \leq M i.e. A = 0. \end{cases}

$L = \begin{cases} \textrm{Pr} \left\{X > M \right\} \times 1 & \textrm{if } X > M \textrm{ i.e. } A =1,\\ \textrm{Pr} \left\{X \leq M\right\} \times f_{X \vert A}(x \,\vert \,a)\,\textrm{d}x & \textrm{if } X \leq M \textrm{ i.e. } A = 0. \end{cases}$ Da , die Wahrscheinlichkeit ist im zweiten Fall einfach und wir erhalten die beanspruchte Wahrscheinlichkeit bis zum Term für eine Beobachtung mit unendlicher Genauigkeit. Wenn unabhängige Beobachtungen und gemacht werden, wird die Wahrscheinlichkeit als Produkt der Grenzwahrscheinlichkeiten erhalten, die zum Ausdruck in der Frage führen.

f_{X | A} (x | 0) = f_{X} (x) / Pr {X \leq M}

$f_{X \vert A}(x \,\vert \,0) = f_X(x) / \textrm{Pr} \left\{ X \leq M \right\}$

f_{X} (x) d x

$f_X(x)\,\textrm{d}x$

d x

$\mathrm{d}x$

A_{i}

$A_i$

X_{i}

$X_i$

— Yves
quelle