Verwenden der Singularwertzerlegung zur Berechnung der Varianz-Kovarianz-Matrix aus dem linearen Regressionsmodell

Ich habe eine Entwurfsmatrix von p Regressoren, n Beobachtungen und versuche, die Stichprobenvarianz-Kovarianz-Matrix der Parameter zu berechnen. Ich versuche es direkt mit svd zu berechnen.

Ich benutze R, wenn ich svd der Entwurfsmatrix nehme, erhalte ich drei Komponenten: eine Matrix die n × p ist , eine Matrix D, die 1 × 3 ist (vermutlich Eigenwerte), und eine Matrix V, die 3 × 3 ist . Ich habe D diagonalisiert und daraus eine 3 × 3- Matrix mit Nullen in den Off-Diagonalen gemacht.$U$$n \times p$$D$$1\times 3$$V$$3\times 3$$D$$3\times 3$

Angeblich lautet die Formel für die Kovarianz: , die Matrix stimmt jedoch nicht überein und liegt auch nicht nahe an der in R eingebauten Funktion . Hat jemand irgendwelche Ratschläge / Referenzen? Ich gebe zu, dass ich in diesem Bereich etwas ungelernt bin.$V D^2 V'$vcov

$$\hat{\beta} \sim \mathcal{N}( \beta, \sigma^2 (X^T X)^{-1} ) .$$

$X = U D V^T$$X^T X = V D U^T U D V = V D^2 V^T$

$$(X^T X)^{-1} = V D^{-2} V^T .$$

$$\hat{\sigma}^2 = \frac{1}{n - p} (y^T y - \hat{\beta}^T X^T y) .$$

$\hat{\sigma}^2 V D^{-2} V^T$

$V D^2 V^T$$X^T X$$R$

vcov.matrix <- var.est * (v %*% d^(-2) %*% t(v))

Beobachten, dass wir für die Matrixmultiplikation %*%anstelle von nur verwenden *. var.estoben ist die Schätzung der Varianz des Rauschens.

$X$$n \geq p$