Lehrbücher zur Matrixrechnung?

20

Kurzgeschichte: Ich habe die Elemente des statistischen Lernens gelesen und war frustriert, als ich versuchte, einige der Ergebnisse zu überprüfen, z. B.

RSS (β) = {(y - X β)}^{T} (y - X β),

$\text{RSS}(\beta) = \left(\mathbf{y}-\mathbf{X}\beta\right)^{T}\left(\mathbf{y}-\mathbf{X}\beta\right)\text{,}$ dann

\begin{aligned} \frac{\partial RSS}{\partial β} = - 2 X^{T} (y - X β) \\ \frac{\partial^{2} RSS}{\partial β \partial β^{T}} = 2 X^{T} X . \end{aligned}

$\begin{align}&\dfrac{\partial\text{RSS}}{\partial \beta} = -2\mathbf{X}^{T}\left(\mathbf{y}-\mathbf{X}\beta\right) \\ &\dfrac{\partial^2\text{RSS}}{\partial \beta\text{ }\partial \beta^{T}} = 2\mathbf{X}^{T}\mathbf{X}\text{.} \end{align}$ Ich suche ein Matrix-Rechenbuch, das wie Ihr traditionelles Rechenbuch geschrieben ist (dh Beweise für Theoreme, Beispiele, Berechnungsübungen usw.). Ich habe diese Frage bereits gesehen und das Gefühl, dass sich der Text von Magnus und Neudecker zu sehr auf die Theorie konzentriert und der Text von Gentle zu wenig auf die Theorie und zu viel auf die Berechnungsseite.

Gibt es ein fröhliches Medium, das für jemanden mit Hintergrund in der Analyse von Grundstudiengängen zugänglich ist?

references matrix matrix-calculus

— Klarinettist
quelle

4

Haben Sie Harvilles Matrix-Algebra aus statistischer Sicht betrachtet ? Die ersten Kapitel sollten relativ einfach sein, aber dann geht es los.

— usεr11852 sagt Reinstate Monic

2

amazon.com/Matrix-Algebra-Econometric-Exercises-Vol/dp/…

— Khashaa

1

Ich verwende diesen Wikipedia-Eintrag oft, um Identitäten von Problemen mit der Matrixrechnung zu finden: en.wikipedia.org/wiki/Matrix_calculus

— Tommy L

9

Bei den meisten Matrixfragen beziehe ich mich immer zuerst auf "The Matrix Cookbook" (siehe hier ).

Es wird regelmäßig aufgrund von Rückmeldungen aus verschiedenen Quellen aktualisiert. Es gibt Beweise darin, aber es ist meistens als Handbuch gedacht.

— Laurens van de Wiel
quelle

3

Wenn Sie im Buch von Magnus und Neudecker zu viel Theorie gefunden haben, empfehle ich diese, die auch von Magnus verfasst wurde:

Abadir, KM und Magnus, JR Matrix Algebra, Cambridge University Press, 2005

das hat mehr Gewicht auf die Anwendungen der Matrixrechnung.

— Arrigo Benedetti
quelle

2

Ein Benutzer hat die folgende hilfreiche Antwort selbst gelöscht, die ich hier vollständig wiedergebe, damit ihre Informationen nicht verloren gehen:

Sie brauchen nicht wirklich viele Ergebnisse zu Vektor- und Matrixderivaten für ML, und Tom Minkas Artikel deckt das meiste davon ab, aber die endgültige Behandlung ist Magnus & Neudeckers Matrixdifferentialrechnung mit Anwendungen in Statistik und Ökonometrie .

In der Tat hat Magnus & Neudecker ausgezeichnete Rezensionen zu Amazon und Tom Minkas Artikel ( Alte und Neue Matrixalgebra nützlich für Statistiken , 2000) enthält viele nützliche Formeln, obwohl er warnt, "dies ist fortgeschrittenes Material."

— whuber
quelle

1

Ich kann dieses 26-seitige Papier der Stanford University nur empfehlen:

" Linear Algebra Review and Reference " von Zico Kolter

Es konzentriert sich wirklich auf typische Summenberechnungen mit viel i und j überall und zeigt Ihnen die entsprechende Matrixberechnung (dh unter Verwendung ihrer "vektorisierten" Implementierung).

Es hilft Ihnen sofort zu erkennen, welche Art von Matrixformel Sie schreiben sollten, um Ihre Berechnungen durchzuführen.

— tmangin
quelle