Welche Teile der linearen Algebra werden in der Informatik verwendet?

Ich habe die Lineare Algebra und ihre Anwendungen gelesen , um Informatikmaterial (hauptsächlich maschinelles Lernen) besser zu verstehen, aber ich bin besorgt, dass viele Informationen für CS nicht nützlich sind. Zum Beispiel scheint es nicht sehr nützlich zu sein, zu wissen, wie lineare Gleichungssysteme effizient gelöst werden können, wenn Sie nicht versuchen, einen neuen Gleichungslöser zu programmieren. Darüber hinaus hat das Buch viel über Spannweite, lineare Abhängigkeit und Unabhängigkeit gesprochen, wenn eine Matrix eine Inverse hat, und die Beziehungen zwischen diesen, aber ich kann mir keine Anwendung davon in CS vorstellen. Welche Teile der linearen Algebra werden in CS verwendet?

Die Teile, die Sie erwähnt haben, sind grundlegende Konzepte der linearen Algebra. Sie können die fortgeschritteneren Konzepte (z. B. Eigenwerte und Eigenvektoren) nicht verstehen, bevor Sie die Grundkonzepte verstanden haben. In der Mathematik gibt es keine Abkürzungen. Ohne ein intuitives Verständnis der Konzepte von Spanne und linearer Unabhängigkeit kommen Sie in der linearen Algebra nicht weit.

Einige Algorithmen funktionieren nur mit Vollrangmatrizen. Wissen Sie, was das bedeutet? Wissen Sie, was eine Matrix nicht zum vollen Rang machen kann? Wie geht man damit um? Sie werden keine Ahnung haben, wenn Sie nicht wissen, was lineare Unabhängigkeit ist.

Der Gaußsche Eliminierungsalgorithmus, der zum Lösen linearer Gleichungen verwendet wird, kann bei unsachgemäßer Implementierung numerisch instabil sein. In einigen Fällen müssen Sie sich darüber Gedanken machen. Ohne den Algorithmus zu verstehen, werden Sie nicht wissen, woher das Problem kommt und ob Sie etwas dagegen tun können - nicht auf der Ebene der Algorithmen zum Lösen linearer Gleichungen, sondern auf der Ebene, auf der Sie die richtigen linearen Gleichungen finden.

Kurz gesagt, seien Sie nicht faul und glauben Sie, dass diese Dinge nützlich sind.

Lineare Algebra ist in Graph-Algorithmen manchmal äußerst nützlich und leistungsfähig. Mit dem Matrix-Baum-Theorem können Sie die Anzahl der Spannbäume eines Graphen effizient zählen (Sie müssen Eigenwerte verstehen). Eine herausforderndere Anwendung, bei der Sie die lineare Algebra noch besser verstehen müssen, ist der FKT-Algorithmus zur Berechnung der Anzahl perfekter Übereinstimmungen in einem planaren Graphen in Polynomzeit.

Es gibt viele aufregendere Beispiele für die Verwendung der linearen Algebra in der Theorie der algebraischen Graphen und der Theorie der spektralen Graphen . Die Algorithmen, die entstehen, dienen nicht nur zum Zählen von Problemen, wie die beiden Beispiele, die ich gegeben habe. Sie können beispielsweise auch die Konnektivität überprüfen oder den Durchmesser eines Diagramms berechnen .

Eine der bekanntesten Anwendungen der linearen Algebra ist die von Google Pagerank-Algorithmus von :

Die PageRank-Werte sind die Einträge des dominanten linken Eigenvektors der modifizierten Adjazenzmatrix.

Nahezu alles, was mit Computergrafik, Animation, Computer Vision, Bildverarbeitung, wissenschaftlichem Rechnen oder Simulation physikalischer Phänomene zu tun hat, erfordert die umfassende Verwendung von Vektoren und Matrizen (lineare Algebra), von einfachen Dingen wie der Darstellung räumlicher Transformationen und Orientierungen bis hin zu sehr komplexen Algorithmen. Früher waren diese Dinge die Domäne des Supercomputers, aber jetzt sind genau diese Bereiche der Kern aller coolsten Apps auf Ihrem Desktop, Ihrem Handy und überall sonst, von Videospielen über Computerfotografie bis hin zu selbstfahrenden Autos. Lineare Algebra ist überall.

Es gibt viele Algorithmen und Techniken, die auf der Matrixalgebra basieren. Und das ist großartig. Die Hauptkomponentenanalyse ist ein Beispiel für eine recht nützliche angewandte lineare Algebra. Gleiches gilt für die Fourier-Analyse, deren Wurzeln auch in der Orthogonalität und den inneren Produkten liegen. Es gibt also direkte Anwendungen.

ABER noch wichtiger ist, dass eine lineare Algebra-Klasse wertvoll ist, weil sie Ihnen das Denken in einer bestimmten Art und Weise lehrt. Die meisten guten linearen Algebra-Klassen legen Wert auf Generalisierung, Logik und Beweise. Ist etwas im Allgemeinen wahr oder nur bestimmte spezifische, häufige Fälle? Wie können Sie sicher sein? Überlegen zu können, wie Sie Ihre Annahmen beweisen können, ist gut, da Sie sich dadurch davor schützen, schlechte Annahmen zu treffen und Code zu schreiben, der sich nicht so verallgemeinert, wie Sie es annehmen. Es hilft Ihnen auch beim Überlegen, wie Sie Dinge verallgemeinern können, die ansonsten schwierig zu verallgemeinern wären. Auf diese Weise können Sie größere Probleme lösen.

Zusammenfassend ist zu bedenken, dass lineare Algebra gut ist, weil es das Gewichtheben für den Teil Ihres Gehirns ist, der in der Informatik nützlich ist.

Das Lösen eines linearen Gleichungssystems (das mit der Gaußschen Eliminierungsmethode durchgeführt werden kann), des linearen Programmierens (das mit der Simplex-Methode gelöst werden kann), der kleinsten Quadrate und der komprimierten Abtastung (siehe Wikipedia-Artikel) sind praktische Probleme, die in vielen Fällen auftreten Anwendungsbereiche. Die lineare Algebra hilft bei der Entwicklung korrekter und effizienter Algorithmen für diese Probleme.

Siehe den Text [Cormen, Leiserson, Rivest und Stein, "Introduction to Algorithms, Third Edition"], in dem sich Kapitel 28 mit Matrixoperationen und Kapitel 29 mit linearer Programmierung befasst.