Anpassen neuer Bilder aus einer SVD / PCA-Berechnung

Ich versuche, die Ideen von der Eigenface-Seite auf Wikipedia zu replizieren . Aus hundert Beispielbildern, die durch eine Datenmatrix (wobei jedes Bild auf einen Vektor der Länge abgeflacht ist , also eine Matrix von mal ist), habe ich eine SVD-Zerlegung berechnet: $\bf X$ $n$ $\bf X$ $100$ $n$

X = U Σ V^{T}

$\begin{equation} \bf X = U \Sigma V^{T} \end{equation}$

daher:

X X^{T} = U Σ^{2} U^{T}

$\begin{equation} \bf X X^{T} = U \Sigma^2 U^{T} \end{equation}$

Indem ich eine Teilmenge der größten Eigenmoden nehme , kann ich die Matrix approximieren (sei ): $q$ $\sigma_1 \ge \sigma_2 \ge \cdots$

X \approx σ_{1} u_{1} v_{1}^{T} + σ_{2} u_{2} v_{2}^{T} + \dots + σ_{q} u_{q} v_{q}^{T}

$\begin{equation} {\bf X} \approx \sigma_1 u_1 v_1^{T} + \sigma_2 u_2 v_2^{T} + \cdots + \sigma_q u_q v_q^{T} \end{equation}$

Wie bestimme ich nun bei einem neuen Vektor , der ein Bild darstellt, das nicht in , die Gewichtung der Eigenvektoren , um mein neues Bild besten darzustellen ? Ist diese Darstellung bis auf pathologische Fälle einzigartig? $y$ $\bf X$ $q$ $\bf U$ $y$

Kurz gesagt, ich möchte Folgendes tun (von der Wiki-Seite):

Diese Eigengesichter können nun verwendet werden , sowohl bestehende als auch darzustellen neue Gesichter : Wir können projizieren einen neuen (Mittelwert subtrahiert) Bild auf die Eigengesichter und dadurch aufzuzeichnen , wie das neue Gesicht unterscheidet sich von der mittleren Gesicht.

Wie mache ich diese Projektion?

computer-vision linear-systems linear-algebra

— Süchtig
quelle

Zukünftige Leser könnten diese Implementierung wertvoll finden.

— Emre

Die "Projektion", auf die Bezug genommen wird, ist eine Vektorprojektion . Um die Projektion von Vektor auf Vektor zu berechnen , verwenden Sie das innere Produkt der beiden Vektoren: $\mathbf{a}$ $\mathbf{b}$

{ein}_{p r Ö j} = ⟨ ein, b ⟩ b

$\mathbf{a_{proj}} = \langle \mathbf{a}, \mathbf{b} \rangle \mathbf{b}$

in diesem Fall die Vektorkomponente von , die in der gleichen Richtung wie . Im euklidischen Raum wird der innere Produktoperator als seinSkalarprodukt definiert: $\mathbf{a_{proj}}$ $\mathbf{a}$ $\mathbf{b}$

⟨ ein, b ⟩ = ein \cdot b = \sum_{ich = 1}^{n} {ein}_{ich} b_{ich}

$\langle \mathbf{a}, \mathbf{b} \rangle = \mathbf{a} \cdot \mathbf{b} = \sum_{i=1}^{n}a_ib_i$

wobei die Anzahl der Komponenten in den Vektoren und und und die te Komponente der Vektoren bzw. sind. Wenn Sie das innere Produkt der beiden Vektoren berechnen, finden Sie intuitiv, wie viel von Vektor in Richtung von Vektor . Beachten Sie, dass dies eine vorzeichenbehaftete Größe ist. Ein negativer Wert würde bedeuten, dass der Winkel zwischen den beiden Vektoren größer als 90 Grad ist, wie eine alternative Definition für den Projektionsoperator zeigt: $n$ $\mathbf{a}$ $\mathbf{b}$ $a_i$ $b_i$ $i$ $\mathbf{a}$ $\mathbf{b}$ $\mathbf{a}$ $\mathbf{b}$

{ein}_{p r Ö j} = | ein | \cos (θ) b

$\mathbf{a_{proj}} = |\mathbf{a}| \cos(\theta) \mathbf{b}$

wobei der Winkel zwischen den beiden Vektoren ist. $\theta$

Also, einen Vektor gegeben und eine Reihe von Basisvektoren , kann man finden „ wie viel von “ in jedem der Richtungen von jedem der Basisvektoren geht. Typischerweise sind diese Basisvektoren alle zueinander orthogonal. In Ihrem Fall ist die SVD eine orthogonale Zerlegung, daher sollte diese Bedingung erfüllt sein. Um das zu erreichen, was Sie beschreiben, nehmen Sie die Matrix der Eigenvektoren und berechnen das innere Produkt des Kandidatenvektors mit jeder Spalte der Matrix: $\mathbf{a}$ $\mathbf{b_i}$ $\mathbf{a}$ $\mathbf{U}$ $\mathbf{y}$

p_{ich} = y \cdot u_{ich}

$p_i = \mathbf{y} \cdot \mathbf{u_i}$

Der Skalarwert , den Sie von jedem inneren Produkt erhalten, gibt an, wie gut der Vektor mit dem ten Eigenvektor "ausgerichtet" ist. Da die Eigenvektoren orthonormal sind , können Sie den ursprünglichen Vektor folgendermaßen rekonstruieren : $p_i$ $\mathbf{y}$ $i$ $\mathbf{y}$

y = \sum_{ich = 1}^{n} p_{ich} u_{ich}

$\mathbf{y} = \sum_{i=1}^n p_i \mathbf{u_i}$

Sie haben gefragt, ob diese Darstellung eindeutig ist. Ich weiß nicht genau, was Sie meinen, aber es ist nicht eindeutig in dem Sinne, dass ein gegebener Vektor durch Projektion auf eine beliebige Anzahl von orthonormalen Basen zerlegt werden könnte. Die in der Matrix enthaltenen Eigenvektoren sind ein solches Beispiel, Sie können jedoch eine beliebige Anzahl anderer verwenden. Zum Beispiel kann die Berechnung der diskreten Fourier-Transformation von als Projektion auf eine orthonormale Basis komplexer Exponentialvektoren unterschiedlicher Frequenz angesehen werden. $\mathbf{y}$ $\mathbf{U}$ $\mathbf{y}$

— Jason R
quelle

y

$\bf y$

y

$\mathbf{y}$

y

$\mathbf{y}$