Wie man Quantile (Isolinien?) Einer multivariaten Normalverteilung bestimmt

24

Bildbeschreibung hier eingeben

Mich interessiert, wie man ein Quantil einer multivariaten Verteilung berechnen kann. In den Abbildungen habe ich die 5% - und 95% -Quantile einer gegebenen univariaten Normalverteilung gezeichnet (links). Für die richtige multivariate Normalverteilung stelle ich mir vor, dass ein Analog eine Isolinie ist, die die Basis der Dichtefunktion umgibt. Unten ist ein Beispiel für meinen Versuch, dies mit dem Paket zu berechnen mvtnorm- aber ohne Erfolg. Ich nehme an, dies könnte durch Berechnen einer Kontur der Ergebnisse der multivariaten Dichtefunktion geschehen, aber ich habe mich gefragt, ob es eine andere Alternative gibt ( z. B. Analog von qnorm). Danke für Ihre Hilfe.

Beispiel:

mu <- 5
sigma <- 2 
vals <- seq(-2,12,,100)
ds <- dnorm(vals, mean=mu, sd=sigma)

plot(vals, ds, t="l")
qs <- qnorm(c(0.05, 0.95), mean=mu, sd=sigma)
abline(v=qs, col=2, lty=2)


#install.packages("mvtnorm")
require(mvtnorm)
n <- 2
mmu <- rep(mu, n)
msigma <- rep(sigma, n)
mcov <- diag(msigma^2)
mvals <- expand.grid(seq(-2,12,,100), seq(-2,12,,100))
mvds <- dmvnorm(x=mvals, mean=mmu, sigma=mcov)

persp(matrix(mvds,100,100), axes=FALSE)
mvqs <- qmvnorm(0.95, mean=mmu, sigma=mcov, tail = "both") #?

#ex. plot   
png("tmp.png", width=8, height=4, units="in", res=400)
par(mfcol=c(1,2))

#univariate
plot(vals, ds, t="l")
qs <- qnorm(c(0.05, 0.95), mean=mu, sd=sigma)
abline(v=qs, col=2, lty=2)

#multivariate
pmat <- persp(seq(-2,12,,100), seq(-2,12,,100), matrix(mvds,100,100), axes=FALSE, shade=TRUE, lty=0)
cont <- contourLines(seq(-2,12,,100), seq(-2,12,,100), matrix(mvds,100,100), levels=0.05^2)
lines(trans3d(cont[[1]]$x, cont[[1]]$y, cont[[1]]$level, pmat), col=2, lty=2)

dev.off()

— Marc in der Kiste
quelle

3

Eine Mathematica- Lösung (und eine Abbildung für den 3D-Fall) finden Sie unter mathematica.stackexchange.com/questions/21396/… . Es erkennt, dass die Konturebenen durch eine Chi-Quadrat-Verteilung gegeben sind.

— Whuber

@whuber - würde es Ihnen etwas ausmachen, zu demonstrieren, was Sie mit "... das Vertrauensellipsoid ist eine Kontur der Inversen der Kovarianzmatrix" meinen? Prost.

— Marc in der Box

2

Dies ist am einfachsten in einer Dimension zu sehen, in der die "Kovarianzmatrix" (für eine Stichprobenverteilung) eine Zahl

, ihre Inverse also

, was als quadratische Abbildung auf

über

. Eine Kontur auf der Ebene

per Definition die Menge von

für die

; das heißt

oder äquivalent

s^{2}

$s^2$

1 / s^{2}

$1/s^2$

R^{1}

$\mathbb{R}^1$

x \to x^{2} / s^{2}

$x\to x^2/s^2$

λ

$\lambda$

x

$x$

x^{2} / s^{2} = λ

$x^2/s^2=\lambda$

x^{2} = λ s^{2}

$x^2=\lambda s^2$

. Wenn

das

Quantil einer

-Verteilung ist, ist

x = \pm \sqrt{λ} s

$x=\pm\sqrt{\lambda}s$

λ

$\lambda$

1 - α

$1-\alpha$

χ^{2} (1)

$\chi^2(1)$

ist das

Quantil einer

-Verteilung, aus der wir die üblichen Konfidenzgrenzen

.

\sqrt{λ}

$\sqrt{\lambda}$

1 - α

$1-\alpha$

t (1)

$t(1)$

\pm t_{1 - α; 1} s

$\pm t_{1-\alpha; 1}s$

— Whuber

Sie können die erste Formel in dieser Antwort verwenden, indem Sie

in

wählen , um die entsprechende Ellipse

(die rote gestrichelte Linie in Ihren Plots) für

α

$\alpha$

(0, 1)

$(0,1)$

S_{α}

$S_\alpha$

x \in R^{2}

$\mathbf{x}\in \mathbb{R}^2$

— user603 am

25

Die Konturlinie ist ein Ellipsoid. Der Grund dafür ist, dass Sie sich das Argument des Exponentials im PDF der multivariaten Normalverteilung ansehen müssen: Die Isolinien wären Linien mit demselben Argument. Dann bekommst du wobei die Kovarianzmatrix ist. Das ist genau die Gleichung einer Ellipse; im einfachsten Fall ist und ist diagonal, so dass Sie

(x - μ)^{T} Σ^{- 1} (x - μ) = c

$({\bf x}-\mu)^T\Sigma^{-1}({\bf x}-\mu) = c$

Σ

$\Sigma$

μ = (0, 0)

$\mu=(0,0)$

Σ

$\Sigma$

Wenn

nicht diagonal ist, erhalten Sie beim Diagonalisieren das gleiche Ergebnis.

{(\frac{x}{σ_{x}})}^{2} + {(\frac{y}{σ_{y}})}^{2} = c

$\left(\frac{x}{\sigma_x}\right)^2+\left(\frac{y}{\sigma_y}\right)^2=c$

Σ

$\Sigma$

Nun müssten Sie die PDF-Datei der Multivariate innerhalb (oder außerhalb) der Ellipse integrieren und anfordern, dass diese dem gewünschten Quantil entspricht. Angenommen, Ihre Quantile sind nicht die üblichen, sondern im Prinzip elliptisch (dh Sie suchen nach dem HDR (Highest Density Region), wie die Antwort von Tim zeigt). Ich würde Variablen im pdf zu ändern , in den Winkel integrieren und dann für von nach $z^2=(x/\sigma_x)^2+(y/\sigma_y)^2$ $z$ $0$ $\sqrt{c}$ Dazu Ersatz :

1 - α = \int_{0}^{\sqrt{c}} d z \frac{z e^{- z^{2} / 2}}{2 π} \int_{0}^{2 π} d θ = \int_{0}^{\sqrt{c}} z e^{- z^{2} / 2}

$1-\alpha=\int_0^{\sqrt{c}}dz\frac{z\;e^{-z^2/2}}{2\pi}\int_0^{2\pi}d\theta=\int_0^{\sqrt{c}}z\;e^{-z^2/2}$

s = - z^{2} / 2

$s=-z^2/2$

\int_{0}^{\sqrt{c}} z e^{- z^{2} / 2} = \int_{- c / 2}^{0} e^{s} d s = (1 - e^{- c / 2})

$\int_0^{\sqrt{c}}z\;e^{-z^2/2}=\int_{-c/2}^{0}e^sds=(1-e^{-c/2})$

Im Prinzip müssen Sie also nach der Ellipse suchen, die in zentriert ist , wobei die Achse über den Eigenvektoren von und dem effektiven Radius $\mu$ $\Sigma$ $-2\ln\alpha$

(x - μ)^{T} Σ^{- 1} (x - μ) = - 2 \ln α

$({\bf x}-\mu)^T\Sigma^{-1}({\bf x}-\mu) = -2\ln{\alpha}$

— chuse
quelle

4

Sie haben nach multivariaten Normalen gefragt, aber Ihre Frage begann mit der Frage nach dem "Quantil einer multivariaten Verteilung" im Allgemeinen. Aus dem Wortlaut Ihrer Frage und dem vorausgesetzten Beispiel geht hervor, dass Sie an Regionen mit der höchsten Dichte interessiert sind . Sie werden von Hyndman (1996) wie folgt definiert

Sei $f(z)$ $X$ $100( 1 - \alpha )\%$ $R(f_\alpha)$ $X$

$R (f_{α}) = {x : f (x) \geq f_{α}}$ $R(f_\alpha) = \{ x : f(x) \geq f_\alpha\}$
$f_\alpha$ $\Pr(X \in R(f_\alpha)) \geq 1 - a$

$Y = f(x)$ $f_\alpha$ $\Pr(f(x) \geq f_\alpha) \geq 1 - \alpha$ $\alpha$ $Y$ $y_1,...,y_m$ $f(x)$

Hyndman, RJ (1996). Berechnen und Zeichnen von Regionen mit der höchsten Dichte. The American Statistician, 50 (2), 120-126.

— Tim
quelle

2

$-2*\ln(\alpha)$

\int_{0}^{\sqrt{c}} z e^{- z^{2} / 2} = \int_{- c / 2}^{0} e^{s} d s = (1 - e^{- c / 2})

$\int_0^\sqrt{c} z e^{-z^2/2} =\int_{-c/2}^0e^sds=(1-e^{-c/2})$

— chunjiw
quelle

1

Sie könnten eine Ellipse zeichnen, die den Mahalanobis-Abständen entspricht.

library(chemometrics)
data(glass)
data(glass.grp)
x=glass[,c(2,7)]
require(robustbase)
x.mcd=covMcd(x)
drawMahal(x,center=x.mcd$center,covariance=x.mcd$cov,quantile=0.90)

Oder mit Kreisen um 95%, 75% und 50% der Daten

drawMahal(x,center=x.mcd$center,covariance=x.mcd$cov,quantile=c(0.95,.75,.5))

— Gänseblümchen
quelle

4

Willkommen auf der Site @ user98114. Können Sie etwas Text bereitstellen, um zu erläutern, was dieser Code tut und wie das OP-Problem behoben wird?

— gung - Wiedereinsetzung von Monica