Test auf finite Varianz?

Ist es möglich, die Endlichkeit (oder Existenz) der Varianz einer Zufallsvariablen anhand einer Stichprobe zu testen? Als Null wäre entweder {die Varianz existiert und ist endlich} oder {die Varianz existiert nicht / ist unendlich} akzeptabel. Philosophisch (und rechnerisch) scheint dies sehr seltsam zu sein, da es keinen Unterschied zwischen einer Population ohne endliche Varianz und einer Population mit sehr großer Varianz (sagen wir> ) geben sollte. Ich bin also nicht zuversichtlich, dass dieses Problem auftreten kann gelöst.$10^{400}$

Ein Ansatz, der mir vorgeschlagen wurde, war über den zentralen Grenzwertsatz: Unter der Annahme, dass die Stichproben iid sind und die Grundgesamtheit einen endlichen Mittelwert hat, könnte man irgendwie überprüfen, ob der Stichprobenmittelwert mit zunehmender Stichprobengröße den richtigen Standardfehler aufweist. Ich bin mir jedoch nicht sicher, ob diese Methode funktionieren würde. (Insbesondere sehe ich nicht, wie ich es zu einem richtigen Test machen kann.)

Nein, dies ist nicht möglich, da eine endliche Stichprobe der Größe $n$ nicht zuverlässig zwischen einer normalen Population und einer normalen Population unterscheiden kann, die durch eine $1/N$ Menge einer Cauchy-Verteilung mit $N$ >> kontaminiert ist $n$. (Natürlich hat der erstere eine endliche Varianz und der letztere eine unendliche Varianz.) Somit hat jeder vollständig nichtparametrische Test eine willkürlich niedrige Leistung gegenüber solchen Alternativen.

Sie können nicht sicher sein, ohne die Verteilung zu kennen. Es gibt jedoch bestimmte Dinge, die Sie tun können, z. B. das Betrachten der sogenannten "partiellen Varianz". Wenn Sie also eine Stichprobe der Größe , zeichnen Sie die aus den ersten n Termen geschätzte Varianz , wobei n von 2 bis läuft N .$N$$n$$n$$N$

Mit einer endlichen Populationsvarianz hoffen Sie, dass sich die partielle Varianz bald in der Nähe der Populationsvarianz einpendelt.

Bei einer unendlichen Populationsvarianz sehen Sie Sprünge in der Teilvarianz, gefolgt von langsamen Rückgängen, bis der nächste sehr große Wert in der Stichprobe erscheint.

Dies ist eine Illustration mit normalen und zufälligen Cauchy-Variablen (und einer logarithmischen Skala)

Dies kann nicht hilfreich sein, wenn die Form Ihrer Verteilung so ist, dass eine viel größere Stichprobengröße erforderlich ist, als Sie haben, um sie mit ausreichender Sicherheit zu identifizieren, dh wenn sehr große Werte für eine Verteilung mit endlicher Varianz ziemlich (aber nicht extrem) selten sind. oder sind extrem selten für eine Verteilung mit unendlicher Varianz. Für eine gegebene Verteilung wird es Stichprobengrößen geben, die mit größerer Wahrscheinlichkeit ihre Natur offenbaren; Umgekehrt gibt es für eine gegebene Stichprobengröße Verteilungen, die mit größerer Wahrscheinlichkeit ihre Natur für diese Stichprobengröße verschleiern.

Hier ist eine andere Antwort. Angenommen, Sie könnten das Problem folgendermaßen parametrisieren:

$$H_{0}:\ X \sim t(\mathtt{df}=3)\mathrm{\ versus\ } H_{1}:\ X \sim t(\mathtt{df}=1).$$

Dann könnten Sie einen gewöhnlichen Neyman-Pearson- Wahrscheinlichkeitstest von gegen H 1 durchführen . Beachten Sie, dass H 1 ist Cauchy (unendliche Varianz) und H 0 ist der üblicher Student t mit 3 Freiheitsgraden (endliche Varianz) , die PDF hat: f ( x | ν ) = Γ ( ν + $H_{0}$$H_{1}$$H_{1}$$H_{0}$ $t$

$$f(x|\nu) = \frac{\Gamma\left(\frac{\nu + 1}{2}\right)}{\sqrt{\nu\pi}\Gamma\left(\frac{\nu}{2}\right)}\left(1 + \frac{x^{2}}{\nu} \right)^{-\frac{\nu + 1}{2}},$$

für . Bei einfachen Zufallsstichprobendaten x 1 , x 2 , … , x n lehnt der Wahrscheinlichkeitsverhältnis-Test H 0 ab, wenn Λ ( x ) = ∏ n i = 1 f ( x i | ν = 1 $-\infty < x < \infty$$x_{1},x_{2},\ldots,x_{n}$$H_{0}$ wobeik≥0so gewähltdass P(Λ(X)>

$$\Lambda(\mathbf{x}) = \frac{\prod_{i=1}^{n}f(x_{i}|\nu = 1)}{\prod_{i=1}^{n}f(x_{i}|\nu = 3)} > k,$$ $k \geq 0$ $$P(\Lambda(\mathbf{X}) > k\,|\nu = 3) = \alpha.$$

Es ist ein wenig Algebra zu vereinfachen

$$\Lambda(\mathbf{x}) = \left(\frac{\sqrt{3}}{2}\right)^{n}\prod_{i = 1}^{n}\frac{\left(1 + x_{i}^{2}/3 \right)^{2}}{1 + x_{i}^{2}}.$$

Wir erhalten also wieder eine einfache Zufallsstichprobe, berechnen und lehnen H 0 ab, wenn Λ ( x ) zu groß ist. Wie groß? Das ist der lustige Teil! Es wird schwierig (unmöglich?) Sein, ein geschlossenes Formular für den kritischen Wert zu erhalten, aber wir könnten es mit Sicherheit so nah wie wir wollen annähern. Hier ist eine Möglichkeit, dies mit R zu tun. Angenommen, α = 0,05 , und für Lacher sagen wir n = 13 .$\Lambda(\mathbf{x})$$H_{0}$$\Lambda(\mathbf{x})$$\alpha = 0.05$$n = 13$

Wir generieren eine Reihe von Samples unter , berechnen Λ für jedes Sample und finden dann das 95. Quantil.$H_{0}$$\Lambda$

set.seed(1)
x <- matrix(rt(1000000*13, df = 3), ncol = 13)
y <- apply(x, 1, function(z) prod((1 + z^2/3)^2)/prod(1 + z^2))
quantile(y, probs = 0.95)

$\approx 12.8842$$(\sqrt{3}/2)^{13}$$k \approx 1.9859$

$H_{0}$$H_{1}$$\alpha$

Haftungsausschluss: Dies ist ein Spielzeugbeispiel. Ich habe keine reale Situation, in der ich gespannt war, ob meine Daten von Cauchy stammen und nicht von Student's t mit 3 df. Und die ursprüngliche Frage sagte nichts über parametrisierte Probleme aus, sie schien eher nach einem nichtparametrischen Ansatz zu suchen, der meiner Meinung nach von den anderen gut angesprochen wurde. Der Zweck dieser Antwort ist für zukünftige Leser, die über den Titel der Frage stolpern und nach dem klassischen Ansatz eines staubigen Lehrbuchs suchen.

$H_{1}:\nu \leq 1$

$D\equiv Y_{1},Y_{2},\dots,Y_{N}$:

1. $H_{0}:Y_{i}\sim Normal(\mu,\sigma)$
2. $H_{A}:Y_{i}\sim Cauchy(\nu,\tau)$

One hypothesis has finite variance, one has infinite variance. Just calculate the odds:

$$\frac{P(H_{0}|D,I)}{P(H_{A}|D,I)}=\frac{P(H_{0}|I)}{P(H_{A}|I)}\frac{\int P(D,\mu,\sigma|H_{0},I)d\mu d\sigma}{\int P(D,\nu,\tau|H_{A},I)d\nu d\tau}$$

Where $\frac{P(H_{0}|I)}{P(H_{A}|I)}$ is the prior odds (usually 1)

$$P(D,\mu,\sigma|H_{0},I)=P(\mu,\sigma|H_{0},I)P(D|\mu,\sigma,H_{0},I)$$ And $$P(D,\nu,\tau|H_{A},I)=P(\nu,\tau|H_{A},I)P(D|\nu,\tau,H_{A},I)$$

Now you normally wouldn't be able to use improper priors here, but because both densities are of the "location-scale" type, if you specify the standard non-informative prior with the same range $L_{1}<\mu,\tau<U_{1}$ and $L_{2}<\sigma,\tau<U_{2}$, then we get for the numerator integral:

$$\frac{\left(2\pi\right)^{-\frac{N}{2}}}{(U_1-L_1)log\left(\frac{U_2}{L_2}\right)}\int_{L_2}^{U_2}\sigma^{-(N+1)}\int_{L_1}^{U_1} exp\left(-\frac{N\left[s^{2}-(\overline{Y}-\mu)^2\right]}{2\sigma^{2}}\right)d\mu d\sigma$$

Where $s^2=N^{-1}\sum_{i=1}^{N}(Y_i-\overline{Y})^2$ and $\overline{Y}=N^{-1}\sum_{i=1}^{N}Y_i$. And for the denominator integral:

$$\frac{\pi^{-N}}{(U_1-L_1)log\left(\frac{U_2}{L_2}\right)}\int_{L_2}^{U_2}\tau^{-(N+1)}\int_{L_1}^{U_1} \prod_{i=1}^{N}\left(1+\left[\frac{Y_{i}-\nu}{\tau}\right]^{2}\right)^{-1}d\nu d\tau$$

And now taking the ratio we find that the important parts of the normalising constants cancel and we get:

$$\frac{P(D|H_{0},I)}{P(D|H_{A},I)}=\left(\frac{\pi}{2}\right)^{\frac{N}{2}}\frac{\int_{L_2}^{U_2}\sigma^{-(N+1)}\int_{L_1}^{U_1} exp\left(-\frac{N\left[s^{2}-(\overline{Y}-\mu)^2\right]}{2\sigma^{2}}\right)d\mu d\sigma}{\int_{L_2}^{U_2}\tau^{-(N+1)}\int_{L_1}^{U_1} \prod_{i=1}^{N}\left(1+\left[\frac{Y_{i}-\nu}{\tau}\right]^{2}\right)^{-1}d\nu d\tau}$$

And all integrals are still proper in the limit so we can get:

$$\frac{P(D|H_{0},I)}{P(D|H_{A},I)}=\left(\frac{2}{\pi}\right)^{-\frac{N}{2}}\frac{\int_{0}^{\infty}\sigma^{-(N+1)}\int_{-\infty}^{\infty} exp\left(-\frac{N\left[s^{2}-(\overline{Y}-\mu)^2\right]}{2\sigma^{2}}\right)d\mu d\sigma}{\int_{0}^{\infty}\tau^{-(N+1)}\int_{-\infty}^{\infty} \prod_{i=1}^{N}\left(1+\left[\frac{Y_{i}-\nu}{\tau}\right]^{2}\right)^{-1}d\nu d\tau}$$

The denominator integral cannot be analytically computed, but the numerator can, and we get for the numerator:

$$\int_{0}^{\infty}\sigma^{-(N+1)}\int_{-\infty}^{\infty} exp\left(-\frac{N\left[s^{2}-(\overline{Y}-\mu)^2\right]}{2\sigma^{2}}\right)d\mu d\sigma=\sqrt{2N\pi}\int_{0}^{\infty}\sigma^{-N} exp\left(-\frac{Ns^{2}}{2\sigma^{2}}\right)d\sigma$$

Now make change of variables $\lambda=\sigma^{-2}\implies d\sigma = -\frac{1}{2}\lambda^{-\frac{3}{2}}d\lambda$ and you get a gamma integral:

$$-\sqrt{2N\pi}\int_{\infty}^{0}\lambda^{\frac{N-1}{2}-1} exp\left(-\lambda\frac{Ns^{2}}{2}\right)d\lambda=\sqrt{2N\pi}\left(\frac{2}{Ns^{2}}\right)^{\frac{N-1}{2}}\Gamma\left(\frac{N-1}{2}\right)$$

And we get as a final analytic form for the odds for numerical work:

$$\frac{P(H_{0}|D,I)}{P(H_{A}|D,I)}=\frac{P(H_{0}|I)}{P(H_{A}|I)}\times\frac{\pi^{\frac{N+1}{2}}N^{-\frac{N}{2}}s^{-(N-1)}\Gamma\left(\frac{N-1}{2}\right)}{\int_{0}^{\infty}\tau^{-(N+1)}\int_{-\infty}^{\infty} \prod_{i=1}^{N}\left(1+\left[\frac{Y_{i}-\nu}{\tau}\right]^{2}\right)^{-1}d\nu d\tau}$$

So this can be thought of as a specific test of finite versus infinite variance. We could also do a T distribution into this framework to get another test (test the hypothesis that the degrees of freedom is greater than 2).

The counterexample is not relevant to the question asked. You want to test the null hypothesis that a sample of i.i.d. random variables is drawn from a distribution having finite variance, at a given significance level. I recommend a good reference text like "Statistical Inference" by Casella to understand the use and the limit of hypothesis testing. Regarding h.t. on finite variance, I don't have a reference handy, but the following paper addresses a similar, but stronger, version of the problem, i.e., if the distribution tails follow a power law.

POWER-LAW DISTRIBUTIONS IN EMPIRICAL DATA SIAM Review 51 (2009): 661--703.

One approach that had been suggested to me was via the Central Limit Theorem.

This is a old question, but I want to propose a way to use the CLT to test for large tails.

Let $X = \{X_1,\ldots,X_n\}$ be our sample. If the sample is a i.i.d. realization from a light tail distribution, then the CLT theorem holds. It follows that if $Y = \{Y_1,\ldots,Y_n\}$ is a bootstrap resample from $X$ then the distribution of:

$$Z = \sqrt{n}\times\frac{mean(Y) - mean(X)}{sd(Y)},$$

is also close to the N(0,1) distribution function.

Now all we have to do is perform a large number of bootstraps and compare the empirical distribution function of the observed Z's with the e.d.f. of a N(0,1). A natural way to make this comparison is the Kolmogorov–Smirnov test.

The following pictures illustrate the main idea. In both pictures each colored line is constructed from a i.i.d. realization of 1000 observations from the particular distribution, followed by a 200 bootstrap resamples of size 500 for the approximation of the Z ecdf. The black continuous line is the N(0,1) cdf.