Kann die Hauptkomponentenanalyse auf Datensätze angewendet werden, die eine Mischung aus kontinuierlichen und kategorialen Variablen enthalten?

Ich habe einen Datensatz, der sowohl kontinuierliche als auch kategoriale Daten enthält. Ich analysiere mit PCA und frage mich, ob es in Ordnung ist, die kategorialen Variablen in die Analyse einzubeziehen. Meines Wissens kann PCA nur auf kontinuierliche Variablen angewendet werden. Ist das korrekt? Welche Alternativen für ihre Analyse gibt es, wenn sie nicht für kategoriale Daten verwendet werden können?

Obwohl eine auf Binärdaten angewendete PCA zu Ergebnissen führen würde, die mit den Ergebnissen einer Mehrfachkorrespondenzanalyse vergleichbar sind (Faktorwerte und Eigenwerte sind linear miteinander verknüpft), gibt es geeignetere Techniken für den Umgang mit gemischten Datentypen, nämlich die Mehrfachfaktoranalyse für gemischte Daten in das FactoMineR R-Paket ( AFDM()). Wenn Ihre Variablen als strukturierte Untergruppen von beschreibenden Attributen betrachtet werden können, ist die Multiple Factor Analysis ( MFA()) ebenfalls eine Option.

Die Herausforderung bei kategorialen Variablen besteht darin, einen geeigneten Weg zu finden, um Entfernungen zwischen variablen Kategorien und Individuen im Fakultätsraum darzustellen. Um dieses Problem zu lösen, können Sie nach einer nichtlinearen Transformation jeder Variablen suchen - sei es nominal, ordinal, polynomial oder numerisch - mit optimaler Skalierung. Dies wird ausführlich in Gifi-Methoden für die optimale Skalierung in R: Die Paket-Homals erläutert . Eine Implementierung ist in den entsprechenden R-Paket- Homals verfügbar .

Eine Google-Suche "pca for discrete variables" gibt diesen schönen Überblick von S. Kolenikov (@StasK) und G. Angeles. Um die Antwort zu ergänzen, ist die PC-Analyse wirklich eine Analyse der Eigenvektoren der Kovarianzmatrix. Das Problem ist also, wie die "richtige" Kovarianzmatrix berechnet wird. Einer der Ansätze besteht darin, die polychrone Korrelation zu verwenden .

Ich empfehle einen Blick auf Linting & Kooij, 2012 " Nichtlineare Hauptkomponentenanalyse mit CATPCA: Ein Tutorial ", Journal of Personality Assessment ; 94 (1).

Abstrakt

Dieser Artikel dient als Lernprogramm für die nichtlineare Hauptkomponentenanalyse (NLPCA) und führt den Leser systematisch durch den Prozess der Analyse tatsächlicher Daten zur Persönlichkeitsbewertung mit dem Rorschach Inkblot-Test. NLPCA ist eine flexiblere Alternative zur linearen PCA, die die Analyse möglicherweise nichtlinear verwandter Variablen mit verschiedenen Arten von Messpegeln ermöglicht. Das Verfahren eignet sich insbesondere zum Analysieren von nominalen (qualitativen) und ordinalen (z. B. Likert-Typ) Daten, möglicherweise kombiniert mit numerischen Daten. Das Programm CATPCA aus dem Modul Categories in SPSS wird für die Analysen verwendet, die Methodenbeschreibung kann jedoch problemlos auf andere Softwarepakete übertragen werden.

Ich habe noch keine Berechtigung zum Kommentieren eines Beitrags, daher füge ich meinen Kommentar als separate Antwort hinzu. Bitte nehmen Sie Kontakt mit mir auf.

Nachdem ich den Kommentar von @Martin F fortgesetzt habe, bin ich kürzlich auf die nichtlinearen PCAs gestoßen. Ich habe nichtlineare PCAs als mögliche Alternative untersucht, wenn sich eine kontinuierliche Variable der Verteilung einer Ordinalvariablen nähert, wenn die Daten spärlicher werden (es kommt in der Genetik häufig vor, wenn die Nebenallelhäufigkeit der Variablen immer geringer wird und Sie stehen bleiben) mit einer sehr geringen Anzahl von Zählungen, bei denen Sie eine Verteilung einer stetigen Variablen nicht wirklich rechtfertigen können, und Sie müssen die Verteilungsannahmen lockern, indem Sie sie entweder zu einer Ordnungsvariablen oder zu einer kategorialen Variablen machen diskutieren mit statistischen Maestros in der Genetik Fakultät, Der Konsens lautete, dass die nichtlinearen PCAs nicht oft verwendet werden und das Verhalten dieser PCAs noch nicht ausgiebig getestet wurde (möglicherweise bezogen sie sich nur auf das Genetikfeld, nehmen Sie es also bitte mit einem Körnchen Salz). In der Tat ist es eine faszinierende Option. Ich hoffe, ich habe 2 Cent (zum Glück relevant) zur Diskussion hinzugefügt.

Es gibt einen kürzlich entwickelten Ansatz für solche Probleme: Verallgemeinerte Modelle mit niedrigem Rang .

Eine Arbeit, die diese Technik verwendet, wird sogar als PCA auf einem Datenrahmen bezeichnet .

PCA kann so gestellt werden:

Für x Matrixm $n$$m$$M$

finde x Matrix und x Matrix (dies codiert implizit Rang e Einschränkung), so dassk X k m Y$n$$k$$\hat{X}$$k$$m$$\hat{Y}$$k$

$\hat{X}, \hat{Y}$ = .$\underset{X, Y}{argmin} \| M - XY \|_F^2$

Das 'Verallgemeinerte' von GLRM steht für change zu etwas anderem und Hinzufügen eines Regularisierungsbegriffs.$\| \cdot \|_F^2$

PCAmixdata#Rstats- Paket :

Implementiert die Hauptkomponentenanalyse, die orthogonale Rotation und die Analyse mehrerer Faktoren für eine Mischung aus quantitativen und qualitativen Variablen.

Beispiel aus Vignette zeigt Ergebnisse für kontinuierliche und kategoriale Ausgabe