Beweisen Sie die Äquivalenz der folgenden beiden Formeln für die Spearman-Korrelation

Aus Wikipedia wird die Rangkorrelation von Spearman berechnet, indem die Variablen und in und konvertiert werden und anschließend die Pearson-Korrelation zwischen den berechnet wird:$X_i$x i y $Y_i$$x_i$$y_i$

In dem Artikel heißt es jedoch weiter, dass die obige Formel äquivalent zu ist , wenn zwischen den Variablen und keine Bindungen bestehenY $X_i$$Y_i$

Dabei ist die Differenz der Ränge.$d_i = y_i - x_i$

Kann jemand dies bitte nachweisen? Ich habe keinen Zugang zu den Lehrbüchern, auf die der Wikipedia-Artikel verweist.

$\rho = \frac{\sum_i(x_i-\bar{x})(y_i-\bar{y})}{\sqrt{\sum_i (x_i-\bar{x})^2 \sum_i(y_i-\bar{y})^2}}$

Da es keine Gleichheit gibt, bestehen sowohl als auch aus den ganzen Zahlen von bis einschließlich .y 1 $x$$y$$1$$n$

Daher können wir den Nenner umschreiben:

$\frac{\sum_i(x_i-\bar{x})(y_i-\bar{y})}{\sum_i (x_i-\bar{x})^2}$

Der Nenner ist aber nur eine Funktion von :$n$

$\sum_i (x_i-\bar{x})^2 = \sum_i x_i^2 - n\bar{x}^2 \\ \quad= \frac{n(n + 1)(2n + 1)}{6} - n(\frac{(n + 1)}{2})^2\\ \quad= n(n + 1)(\frac{(2n + 1)}{6} - \frac{(n + 1)}{4})\\ \quad= n(n + 1)(\frac{(8n + 4-6n-6)}{24})\\ \quad= n(n + 1)(\frac{(n -1)}{12})\\ \quad= \frac{n(n^2 - 1)}{12}$

Nun schauen wir uns den Zähler an:

$\sum_i(x_i-\bar{x})(y_i-\bar{y})\\ \quad=\sum_i x_i(y_i-\bar{y})-\sum_i\bar{x}(y_i-\bar{y}) \\ \quad=\sum_i x_i y_i-\bar{y}\sum_i x_i-\bar{x}\sum_iy_i+n\bar{x}\bar{y} \\ \quad=\sum_i x_i y_i-n\bar{x}\bar{y} \\ \quad= \sum_i x_i y_i-n(\frac{n+1}{2})^2 \\ \quad= \sum_i x_i y_i- \frac{n(n+1)}{12}3(n +1) \\ \quad= \frac{n(n+1)}{12}.(-3(n +1))+\sum_i x_i y_i \\ \quad= \frac{n(n+1)}{12}.[(n-1) - (4n+2)] + \sum_i x_i y_i \\ \quad= \frac{n(n+1)(n-1)}{12} - n(n+1)(2n+1)/6 + \sum_i x_i y_i \\ \quad= \frac{n(n+1)(n-1)}{12} -\sum_i x_i^2+ \sum_i x_i y_i \\ \quad= \frac{n(n+1)(n-1)}{12} -\sum_i (x_i^2+ y_i^2)/2+ \sum_i x_i y_i \\ \quad= \frac{n(n+1)(n-1)}{12} - \sum_i (x_i^2 - 2x_i y_i + y_i^2) /2\\ \quad= \frac{n(n+1)(n-1)}{12} - \sum_i(x_i - y_i)^2/2\\ \quad= \frac{n(n^2-1)}{12} - \sum d_i^2/2$

Zähler Nenner

$= \frac{n(n+1)(n-1)/12 - \sum d_i^2/2}{n(n^2 - 1)/12}\\ \quad= {\frac {n(n^2 - 1)/12 -\sum d_i^2/2}{n(n^2 - 1)/12}}\\ \quad= 1- {\frac {6 \sum d_i^2}{n(n^2 - 1)}}\,$ ,.

Daher

$\rho = 1- {\frac {6 \sum d_i^2}{n(n^2 - 1)}}.$

Wir sehen, dass in der zweiten Formel der quadratische euklidische Abstand zwischen den beiden (eingestuften) Variablen erscheint: . Die entscheidende Intuition zu Beginn wird sein, wie mit in Beziehung gesetzt werden könnte . Es ist über den Kosinussatz eindeutig verwandt . Wenn wir die beiden Variablen zentriert haben, ist der Cosinus in der Formel des verknüpften Theorems gleich (es kann leicht bewiesen werden, wir nehmen dies hier als gegeben an). Und h 2 (die quadratische euklidische Norm) ist N σ 2 , die Quadratsumme in einer zentrierten Variablen. Die Formel des Theorems sieht also so aus: D 2 x y$D^2= \Sigma d_i^2$$D^2$$r$$r$$h^2$$N \sigma^2$. Bitte beachten Sie auch eine andere wichtige Sache (die möglicherweise separat bewiesen werden muss): Wenn DatenRänge sind, istD2für zentrierte und nicht zentrierte Daten gleich.$D_{xy}^2 = N\sigma_x^2+N\sigma_y^2-2\sqrt N\sigma_x \sqrt N \sigma_yr$$D^2$

Da die beiden Variablen eingestuft wurden, sind ihre Varianzen gleich, , so dass D 2 = 2 N σ 2 - 2 N σ 2 r .$\sigma_x=\sigma_y=\sigma$$D^2 = 2N\sigma^2-2N\sigma^2r$

. Es sei daran erinnert, dass die eingestuften Daten aus einerdiskreten Gleichverteilungmit einer Varianz(N2-1)/12 stammen. Durch Einsetzen in die Formel ergibt sichr=1-6D$r= 1-\frac{D^2}{2N\sigma^2}$$(N^2-1)/12$ .$r= 1-\frac{6D^2}{N(N^2-1)}$

Die Algebra ist einfacher, als es zunächst erscheinen mag.

Meiner Meinung nach wird durch das Ausarbeiten der algebraischen Manipulationen wenig Gewinn oder Einsicht erzielt. Stattdessen zeigt eine wirklich einfache Identität, warum quadratische Differenzen verwendet werden können, um den (üblichen Pearson-) Korrelationskoeffizienten auszudrücken. Wenn Sie dies auf den Sonderfall anwenden, bei dem die Daten Ränge sind, erhalten Sie das Ergebnis. Es weist den bisher mysteriösen Koeffizienten auf

$$\frac{6}{n(n^2-1)}$$

als die Hälfte des Kehrwerts der Varianz der Ränge . (Wenn Bindungen vorhanden sind, erhält dieser Koeffizient eine kompliziertere Formel, ist jedoch immer noch die Hälfte des Kehrwerts der Varianz der den Daten zugewiesenen Ränge.)$1, 2, \ldots, n$

Sobald Sie dies gesehen und verstanden haben, wird die Formel unvergesslich. Vergleichbare (aber komplexere) Formeln, die mit Bindungen umgehen, in nichtparametrischen statistischen Tests wie dem Wilcoxon-Rangsummentest oder in räumlichen Statistiken (wie Morans I, Gearys C und anderen) auftauchen, werden sofort verständlich.

---

Betrachten sie eine beliebige Menge von gepaarten Daten mit Mitteln ˉ X und ˉ Y und Varianzen s 2 X und s 2 Y . Durch Rezentrierung die Variablen an ihrem Mittel ˉ X und ˉ Y und mit ihren Standardabweichungen s X und s Y wie Messeinheiten, werden die Daten neu ausgedrückt werden in Bezug auf die standardisierten Werte$(X_i,Y_i)$$\bar X$$\bar Y$$s_X^2$$s_Y^2$$\bar X$$\bar Y$$s_X$$s_Y$

$$(x_i, y_i) = \left(\frac{X_i-\bar X}{s_X}, \frac{Y_i-\bar Y}{s_Y}\right).$$

Per Definition ist der Pearson-Korrelationskoeffizient der Originaldaten das Durchschnittsprodukt der standardisierten Werte.

$$\rho = \frac{1}{n}\sum_{i=1}^n x_i y_i.$$

Die Polarisationsidentität bezieht Produkte auf Quadrate. Für zwei Zahlen und y sie behauptet$x$$y$

$$xy = \frac{1}{2}\left(x^2 + y^2 - (x-y)^2\right),$$

das ist leicht zu überprüfen. Wenn Sie dies auf jeden Term in der Summe anwenden, erhalten Sie

$$\rho = \frac{1}{n}\sum_{i=1}^n \frac{1}{2}\left(x_i^2 + y_i^2 - (x_i-y_i)^2\right).$$

Da und y i standardisiert wurden, sind ihre durchschnittlichen Quadrate beide Einheit, von wo aus$x_i$$y_i$

$$\rho = \frac{1}{2}\left(1 + 1 - \frac{1}{n}\sum_{i=1}^n (x_i-y_i)^2\right) = 1 - \frac{1}{2}\left(\frac{1}{n}\sum_{i=1}^n (x_i-y_i)^2\right).\tag{1}$$

Der Korrelationskoeffizient unterscheidet sich von seinem maximal möglichen Wert um die Hälfte der mittleren quadratischen Differenz der standardisierten Daten.$1$

Dies ist eine universelle Korrelationsformel, die unabhängig von den ursprünglichen Daten gültig ist (vorausgesetzt, beide Variablen haben Standardabweichungen ungleich Null). (Erfahrene Leser dieser Website werden erkennen, dass dies in engem Zusammenhang mit der geometrischen Charakterisierung der Kovarianz steht, die unter Wie würden Sie jemandem die Kovarianz erklären, der nur den Mittelwert versteht? )

---

In dem speziellen Fall , in dem die und Y i sind unterschiedliche Reihen ist jeweils eine Permutation der gleichen Folge von Zahlen 1 , 2 , ... , n . Also ˉ X = ˉ Y = ( n + 1 ) / 2 und mit einem winzigen Rechenschritt finden wir$X_i$$Y_i$$1,2 , \ldots, n$$\bar X = \bar Y = (n+1)/2$

$$s_X^2 = s_Y^2 = \frac{1}{n} \sum_{i=1}^n (i - (n+1)/2)^2 = \frac{n^2 - 1}{12}$$

(which, happily, is nonzero whenever $n\gt 1$). Therefore

$$(x_i - y_i)^2 = \frac{\left((X_i - (n+1)/2)- (Y_i - (n+1)/2)\right)^2}{(n^2-1)/12} = \frac{12(X_i-Y_i)^2}{n^2-1}.$$

This nice simplification occurred because the $X_i$ and $Y_i$ have the same means and standard deviations: the difference of their means therefore disappeared and the product $s_X s_Y$ became $s_X^2$ which involves no square roots.

Plugging this into the formula $(1)$ for $\rho$ gives

$$\rho = 1 - \frac{6}{n(n^2-1)}\sum_{i=1}^n (X_i - Y_i)^2.$$

High school students may see the PMCC and Spearman correlation formulae years before they have the algebra skills to manipulate sigma notation, though they may well know the method of finite differences for deducing the polynomial equation for a sequence. So I have tried to write a "high school proof" for the equivalence: finding the denominator using finite differences, and minimising the algebraic manipulation of sums in the numerator. Depending on the students the proof is presented to, you may prefer this approach to the numerator, but combine it with a more conventional method for the denominator.

Denominator, $\sqrt{\sum_i (x_i-\bar{x})^2 \sum_i(y_i-\bar{y})^2}$

With no ties, the data are the ranks $\{1, 2,\dots, n\}$ in some order, so it is easy to show $\bar{x}=\frac{n + 1}{2}$. We can reorder the sum $S_{xx}=\sum_{i=1}^{n} (x_i-\bar{x})^2 = \sum_{k=1}^{n} (k-\frac{n + 1}{2})^2$, though with lower grade students I'd likely write this sum out explicitly rather than in sigma notation. The sum of a quadratic in $k$ will be cubic in $n$, a fact that students familiar with the finite difference method may grasp intuitively: differencing a cubic produces a quadratic, so summing a quadratic produces a cubic. Determining the coefficients of the cubic $f(n)$ is straightforward if students are comfortable manipulating $\Sigma$ notation and know (and remember!) the formulae for $\sum_{k=1}^{n} {k}$ and $\sum_{k=1}^{n} {k^2}$. But they can also be deduced using finite differences, as follows.

When $n=1$, the data set is just $\{1\}$, $\bar{x}=1$, so $f(1)=(1-1)^2 = 0$.

For $n=2$, the data are $\{1, 2\}$, $\bar{x}=1.5$, so $f(2)=(1-1.5)^2 + (2-1.5)^2 = 0.5$.

For $n=3$, the data are $\{1, 2, 3\}$, $\bar{x}=2$, so $f(3)=(1-2)^2 + (2-2)^2 + (3-2)^2 = 2$.

These computations are fairly brief, and help reinforce what the notation $\sum_{i=1}^{n} (x_i-\bar{x})^2$ means, and in short order we produce the finite difference table.

We can obtain the coefficients of $f(n)$ by cranking out the finite difference method as outlined in the links above. For instance, the constant third differences indicate our polynomial is indeed cubic, with leading coefficient $\frac{0.5}{3!} = \frac{1}{12}$. There are a few tricks to minimise drudgery: a well-known one is to use the common differences to extend the sequence back to $n=0$, as knowing $f(0)$ immediately gives away the constant coefficient. Another is to try extending the sequence to see if $f(n)$ is zero for an integer $n$ - e.g. if the sequence had been positive but decreasing, it would be worth extending rightwards to see if we could "catch a root", as this makes factorisation easier later. In our case, the function seems to hover around low values when $n$ is small, so let's extend even further leftwards.

Aha! It turns out we have caught all three roots: $f(-1) = f(0) = f(1) = 0$. So the polynomial has factors of $(n+1)$, $n$, and $(n-1)$. Since it was cubic it must be of the form:

$$f(n) = an(n+1)(n-1)$$

We can see that $a$ must be the coefficient of $n^3$ which we already determined to be $\frac{1}{12}$. Alternatively, since $f(2) = 0.5$ we have $a(2)(3)(1)=0.5$ which leads to the same conclusion. Expanding the difference of two squares gives:

$$S_{xx} = \frac{n(n^2-1)}{12}$$

Since the same argument applies to $S_{yy}$, the denominator is $\sqrt{S_{xx} S_{yy}} = \sqrt{S_{xx}^2} = S_{xx}$ and we are done. Ignoring my exposition, this method is surprisingly short. If one can spot that the polynomial is cubic, it is necessary only to calculate $S_{xx}$ for the cases $n \in \{1,2,3,4\}$ to establish the third difference is 0.5. Root-hunters need only extend the sequence leftwards to $n=0$ and $n=-1$, by when all three roots are found. It took me a couple of minutes to find $S_{xx}$ this way.

Numerator, $\sum_i(x_i-\bar{x})(y_i-\bar{y})$

I note the identity $(b-a)^2 \equiv b^2 - 2ab + a^2$ which can be rearranged to:

$$ab \equiv \frac{1}{2}\left(a^2 + b^2 - (b-a)^2 \right)$$

If we let $a = x_i - \bar{x} = x_i - \frac{n+1}{2}$ and $b = y_i - \bar{y} = y_i - \frac{n+1}{2}$ we have the useful result that $b-a = y_i - x_i = d_i$ because the means, being identical, cancel out. That was my intuition for writing the identity in the first place; I wanted to switch from working with the product of the moments to the square of their differences. We now have:

$$(x_i - \bar{x})(y_i - \bar{y}) = \frac{1}{2}\left((x_i - \bar{x})^2 + (y_i - \bar{y})^2 - d_i^2 \right)$$

Hopefully even students unsure how to manipulate $\Sigma$ notation can see how summing over the data set yields:

$$S_{xy} = \frac{1}{2}\left(S_{xx} + S_{yy} - \sum_{i=1}^n{d_i^2}\right)$$

We have already established, by reordering the sums, that $S_{yy} = S_{xx}$, leaving us with:

$$S_{xy}=S_{xx} - \frac{1}{2} \sum_{i=1}^n{d_i^2}$$

The formula for Spearman's correlation coefficient is within our grasp!

$$r_S = \frac{S_{xy}}{\sqrt{S_{xx}S_{yy}}} = \frac{S_{xx}-\frac{1}{2}\sum_i{d_i^2}}{S_{xx}} = 1 - \frac{\sum_i{d_i^2}}{2S_{xx}}$$

Substituting the earlier result that $S_{xx}=\frac{1}{12}n(n^2-1)$ will finish the job.

$$r_S = 1 - \frac{\sum_i{d_i^2}}{\frac{2}{12}n(n^2-1)} = 1 - \frac{6\sum_i{d_i^2}}{n(n^2-1)}$$