Was ist eine Mannigfaltigkeit?

In Dimensionalitätsreduktionstechniken wie Hauptkomponentenanalyse, LDA usw. wird häufig der Begriff Mannigfaltigkeit verwendet. Was ist eine Mannigfaltigkeit in nicht-technischer Hinsicht? Wenn ein Punkt zu einer Kugel gehört, deren Abmessung ich reduzieren möchte, und wenn es ein Rauschen gibt, und und nicht korreliert sind, dann würden die tatsächlichen Punkte aufgrund des Rauschens weit voneinander entfernt sein. Daher wäre eine Rauschfilterung erforderlich. Die Dimensionsreduktion würde also für . Gehören und hier also zu verschiedenen Mannigfaltigkeiten?$x$$y$$x$$y$$x$$z = x+y$$x$$y$

Ich arbeite an Punktwolkendaten, die häufig für die Robotervision verwendet werden. Die Punktwolken sind aufgrund von Rauschen bei der Erfassung verrauscht, und ich muss das Rauschen vor der Dimensionsreduzierung reduzieren. Andernfalls erhalte ich eine falsche Größenreduzierung. Also, was ist die Mannigfaltigkeit hier und ist Rauschen ein Teil derselben Mannigfaltigkeit, zu der gehört?$x$

Nicht technisch ausgedrückt ist eine Mannigfaltigkeit eine kontinuierliche geometrische Struktur mit endlicher Dimension: eine Linie, eine Kurve, eine Ebene, eine Oberfläche, eine Kugel, eine Kugel, ein Zylinder, ein Torus, ein "Blob" ... so etwas :

Es ist ein allgemeiner Begriff, der von Mathematikern verwendet wird, um "eine Kurve" (Dimension 1) oder "Oberfläche" (Dimension 2) oder ein 3D-Objekt (Dimension 3) ... für jede mögliche endliche Dimension zu sagen . Eine eindimensionale Mannigfaltigkeit ist einfach eine Kurve (Linie, Kreis ...). Ein zweidimensionaler Verteiler ist einfach eine Fläche (Ebene, Kugel, Torus, Zylinder ...). Eine dreidimensionale Mannigfaltigkeit ist ein "volles Objekt" (Kugel, voller Würfel, der 3D-Raum um uns herum ...).$n$

Eine Mannigfaltigkeit wird oft durch eine Gleichung beschrieben: Die Menge von Punkten wie ist eine eindimensionale Mannigfaltigkeit (ein Kreis).$(x,y)$$x^2+y^2=1$

Ein Verteiler hat überall die gleiche Dimension. Wenn Sie beispielsweise eine Linie (Dimension 1) an eine Kugel (Dimension 2) anhängen, ist die resultierende geometrische Struktur keine Mannigfaltigkeit.

Im Gegensatz zu den allgemeineren Begriffen des metrischen Raums oder des topologischen Raums, die auch unsere natürliche Intuition einer kontinuierlichen Menge von Punkten beschreiben sollen, soll eine Mannigfaltigkeit lokal einfach sein: wie ein Vektorraum mit endlicher Dimension: . Dies schließt abstrakte Räume (wie Räume mit unendlichen Dimensionen) aus, die häufig keine geometrische konkrete Bedeutung haben.$\mathbb{R}^n$

Im Gegensatz zu einem Vektorraum können Verteiler verschiedene Formen haben. Einige Mannigfaltigkeiten können leicht visualisiert werden (Kugel, Kugel ...), andere sind schwer zu visualisieren, wie die Klein-Flasche oder die reale projektive Ebene .

In der Statistik, beim maschinellen Lernen oder in der angewandten Mathematik wird das Wort "Mannigfaltigkeit" oft verwendet, um "wie ein linearer Unterraum" zu sagen, aber möglicherweise gekrümmt. Jedes Mal, wenn Sie eine lineare Gleichung wie folgt schreiben: Sie einen linearen (affinen) Unterraum (hier eine Ebene). Wenn die Gleichung nicht linear ist wie x 2 + 2 y 2 + 3 z 2 = 7 , ist dies normalerweise eine Mannigfaltigkeit (hier eine gestreckte Kugel).$3x+2y-4z=1$$x^2+2y^2+3z^2=7$

Zum Beispiel sagt die " Mannigfaltigkeitshypothese " von ML "hochdimensionale Daten sind Punkte in einer niedrigdimensionalen Mannigfaltigkeit mit hinzugefügtem hochdimensionalem Rauschen". Sie können sich Punkte eines 1D-Kreises mit etwas 2D-Rauschen vorstellen. Während die Punkte nicht genau auf dem Kreis liegen, erfüllen sie statistisch die Gleichung . Der Kreis ist die zugrunde liegende Mannigfaltigkeit: $x^2+y^2=1$

$M$

$\mathbb{R}^n$$n$

$n$$c_i: M \to \mathbb{R}$$c: M \to \mathbb{R}^n$

$\mathbb{R}^N$$N \ge n$

Man beachte, dass man, um "Struktur" hier genau zu machen, grundlegende Begriffe der Topologie ( def. ) Verstehen muss , die es einem erlauben, genaue Begriffe des "lokalen" Verhaltens und damit "lokal" oben zu machen. Wenn ich "äquivalent" sage, meine ich eine äquivalente topologische Struktur ( homöomorph ), und wenn ich "strukturerhaltend" sage, meine ich dasselbe (schafft eine äquivalente topologische Struktur).

Beachten Sie auch, dass man zum Berechnen von Mannigfaltigkeiten eine zusätzliche Bedingung benötigt, die sich nicht aus den beiden oben genannten Bedingungen ergibt. Diese besagt im Grunde genommen, dass die Diagramme gut genug sind, um das Berechnen zu ermöglichen. Dies sind die in der Praxis am häufigsten verwendeten Verteiler. Im Gegensatz zu allgemeinen topologischen Mannigfaltigkeiten ermöglichen sie neben der Berechnung auch Triangulationen , was bei Anwendungen wie Ihren, die Punktwolkendaten verwenden, sehr wichtig ist .

Beachten Sie, dass nicht alle Personen dieselbe Definition für eine (topologische) Mannigfaltigkeit verwenden. Mehrere Autoren werden definieren, dass es nur die obige Bedingung (1) erfüllt , nicht notwendigerweise auch (2). Die Definition, die sowohl (1) als auch (2) erfüllt, verhält sich jedoch viel besser und ist daher für Praktiker nützlicher. Man könnte intuitiv erwarten, dass (1) (2) impliziert, aber tatsächlich nicht.

$\mathbb{R}^n$

In diesem Zusammenhang ist der Begriff Mannigfaltigkeit richtig, aber unnötig hochfalutin. Technisch gesehen ist eine Mannigfaltigkeit jeder Raum (Punktmenge mit einer Topologie), der ausreichend glatt und stetig ist (auf eine Weise, die mit einigem Aufwand mathematisch genau definiert werden kann).

Stellen Sie sich den Raum aller möglichen Werte Ihrer ursprünglichen Faktoren vor. Nach einer Dimensionsreduktionstechnik sind nicht alle Punkte in diesem Raum erreichbar. Stattdessen sind nur Punkte auf einem eingebetteten Unterraum in diesem Raum erreichbar. Dieser eingebettete Unterraum erfüllt zufällig die mathematische Definition einer Mannigfaltigkeit. Bei einer linearen Dimensionsreduktionstechnik wie PCA ist dieser Unterraum nur ein linearer Unterraum (z. B. eine Hyperebene), bei dem es sich um eine relativ triviale Mannigfaltigkeit handelt. Bei einer nichtlinearen Dimensionsreduktionstechnik könnte dieser Unterraum jedoch komplizierter sein (z. B. eine gekrümmte Hyperfläche). Für Datenanalysezwecke ist das Verständnis, dass dies Teilräume sind, viel wichtiger als jede Schlussfolgerung, die Sie daraus ziehen würden, dass sie die Definition von Mannigfaltigkeit erfüllen.