Nullraum einer rechteckigen dichten Matrix

Bei einer dichten Matrix was ist der beste Weg, um seine Nullraumbasis innerhalb einer Toleranz zu finden ?

A \in R^{m \times n}, m >> n; m a x (m) \approx 100000

$A \in R^{m \times n}, m >> n; max(m) \approx 100000$

ϵ

$\epsilon$

Basierend auf dieser Grundlage kann ich dann sagen , dass bestimmte cols innerhalb linear abhängig sind ? Mit anderen Worten, wenn die Nullraumbasis berechnet wurde, welche Spalten von müssen entfernt werden, um eine nichtsinguläre Matrix zu erhalten? $\epsilon$ $A$

Referenzen sind willkommen.

linear-algebra

— Alexander
quelle

Antworten:

Standardmethoden zur Bestimmung des Nullraums einer Matrix sind die Verwendung einer QR-Zerlegung oder einer SVD. Wenn Genauigkeit an erster Stelle steht, wird die SVD bevorzugt. Die QR-Zerlegung ist schneller.

$A = U\Sigma V^{H}$ $V$ $\Sigma$ $\max(m,n) \cdot \varepsilon$ $\varepsilon$

Mit Hilfe der QR - Zerlegung, wenn , und der Rang von ist , dann die letzte Spalten von den Nullraum von Make - up , unter der Annahme , dass die QR - Zerlegung ist enthüllt Rang. Um zu bestimmen , berechnen Sie die Anzahl der Einträge in der Hauptdiagonale von deren Größe eine Toleranz überschreitet (ähnlich der im SVD-Ansatz verwendeten). $A^{T} = QR$ $A$ $r$ $n-r$ $Q$ $A$ $r$ $R$

Verwenden Sie keine LU-Zerlegung. In der exakten Arithmetik ist dies ein praktikabler Ansatz, bei der Gleitkomma-Arithmetik macht die Akkumulation von numerischen Fehlern die Methode jedoch ungenau.

Wikipedia behandelt diese Themen hier .

— Geoff Oxberry
quelle

Geoff spricht von QR. Angenommen, ich habe die Zerlegung. Wie beziehe ich dann Nullraumbasis und Spalten in der ursprünglichen Matrix? Mit anderen Worten, welche Spalten sollte ich aus entfernen , um den Nullraum loszuwerden? Hier geht es darum, mit selbst zu arbeiten und nicht mit seiner Zersetzung.

A

$A$

A

$A$

— Alexander

Routinen, die die QR-Zerlegung berechnen, enthalten normalerweise die Option, einen Permutationsvektor zurückzugeben, der angibt, wie Spalten permutiert werden, um die QR-Faktorisierung zu erhalten. Die letzten Einträge dieses Permutationsvektors würden den Zeilen von (Spalten von ) entsprechen, die sich im Nullraum befinden. Die ersten Einträge dieses Vektors entsprechen den linear unabhängigen Spalten von . Ich bin mir nicht sicher, was du mit "den Nullraum loswerden" meinst. Wollen Sie Spalten von entfernen , um eine nicht singuläre Matrix zu erhalten?

n - r

$n-r$

A

$A$

A^{T}

$A^{T}$

r

$r$

A^{T}

$A^{T}$

A

$A$

— Geoff Oxberry

Ja ich meine das Ich werde die Permutation anschauen, danke.

— Alexander

Das ist eine andere Frage. Sie würden dann stattdessen die QR-Zerlegung (oder SVD) von berechnen . Wenn Sie die QR-Zerlegung von berechnen, können Sie den Rang von wie in der obigen Antwort berechnen (die Matrix muss nicht transponiert werden), und dann entsprechen die ersten Einträge (wobei der Rang von ) des Permutationsvektors die unabhängigen Spalte von . Dieselbe Art von Algorithmus gilt für die SVD. Wenn Sie zusammen mit der Zerlegung einen Permutationsvektor zurückgeben können, sollte dieser die erforderlichen Informationen liefern.

A

$A$

A

$A$

A

$A$

r

$r$

r

$r$

A

$A$

A

$A$

— Geoff Oxberry

Wenn , wie Ihre Frage zeigt, können Sie einige Arbeiten speichern, indem Sie zuerst einen Indexsatz von (sagen wir) zufälligen Zeilen und die orthogonale Faktorisierung . (Die QR-Faktorisierung ist diejenige, bei der quadratisch und rechteckig mit Rang ist und die verbleibenden Spalten von Null sind. Die Verwendung einer permutierten QR-Faktorisierung erhöht die Stabilität; die Permutation muss dann detaillierter berücksichtigt werden Rezept.) $m\gg n$ $I$ $p\approx 5n$ $A_{I:}^T=QR$ $Q$ $R$ $r$ $n-r$ $R$

In der Regel erhalten Sie dadurch einen viel niedrigeren dimensionalen Unterraum, der von den Spalten von , den letzten Spalten von überspannt wird . Dieser Unterraum enthält den Nullraum von . Nun wählen andere, disjunkten Zufallsindexsatz und berechnen die QR Faktorisierung . Multiplizieren Sie den resultierenden Nullraum auf der linken Seite mit , um ein verbessertes mit wahrscheinlich noch geringerer Dimension zu erhalten. Iteriere, bis die Dimension von nicht mehr abnimmt. Dann haben Sie wahrscheinlich den richtigen Nullraum und können dies überprüfen, indem Sie berechnen . Wenn dies noch nicht zu vernachlässigen ist, führen Sie weitere Iterationen mit den höchstwertigen Zeilen durch. $N$ $n-r$ $Q$ $A$ $(A_{I:}N)^T$ $N$ $N$ $N$ $AN$

Bearbeiten: Sobald Sie , können Sie eine maximale Menge von linear unabhängigen Spalten von durch eine orthogonale Faktorisierung von mit Drehung finden. Tatsächlich hat die Menge von Indizes, die nicht als Pivots ausgewählt wurden, diese Eigenschaft. $N$ $J$ $A$ $N^T=QR$ $J$

— Arnold Neumaier
quelle

+1 für eine effiziente Methode zur Bestimmung des Nullraums einer großen Matrix. Ich muss daran denken, diese Antwort später zu konsultieren, wenn ich sie brauche.

— Geoff Oxberry

In der Tat, es klingt vernünftig, aber meine Matrizen passen in 16 GB RAM, so würde ich mit Standard Matlab qr bleiben.

— Alexander

Herr Prof. Neumaier, ich habe beschlossen, diesen Algorithmus zu testen, verstehe aber nicht genau, was und was "die Berechnung der QR-Faktorisierung von " bedeutet. Könnten Sie uns bitte etwas näher erläutern?

N

$N$

(A_{I :} N)^{T}

$(A_{I:}N)^T$

— Alexander

Ich habe meine Antwort ein wenig überarbeitet. wird nach dem Rezept von Geoff Oxberry berechnet.

N

$N$

— Arnold Neumaier

Vielen Dank. Ich habe es umgesetzt. Meiner Ansicht nach erlaubt dieser Algorithmus jedoch nicht, eine Reihe linear unabhängiger Spalten von zu definieren (da wir anstelle von zerlegen ), sondern hilft nur bei der Schätzung Nullspace-Basis selbst?

A

$A$

A_{I :}^{T}

$A_{I:}^T$

A_{I :}

$A_{I:}$

— Alexander