Unter welchen Bedingungen ist K-bedeutet Clustering transformationsinvariant?


8

Bei einer Menge von Datenpunkten X={x1,x2,…,xm} wobei xi∈Rd wir K-Mittel auf X und erhalten die Cluster c1,c2,…,ck .

Wenn wir nun einen neuen Datensatz wobei und und K-means auf ausführen , um die Cluster .y i = A x i + b y i ∈ R d Y g 1 , g 2 , … g kY={y1,y2,…,ym}yi=Axi+byi∈RdYg1,g2,…gk

Unter welchen Bedingungen von und erhalten wir garantiert die gleichen Cluster?bAb

Nehmen wir an, dass K-means den euklidischen Abstand verwendet und für beide Algorithmen die gleichen Anfangsbedingungen hat wenn die Anfangszentren für X dann sind die Anfangszentren für Y wobei g ^ 0_i = Ac ^ 0_i + b . g 0 1 , … , g 0 k g 0 i = A c 0 i + bc10,…,ck0g10,…,gk0gi0=Aci0+b

Bisher habe ich gedacht, dass den vollen Rang haben muss und b ein beliebiger Vektor sein kann. Ich konnte es jedoch nicht beweisen.bAb

Antworten:


6

Die Antwort hängt von Ihrem K-Means-Algorithmus ab, aber was folgt, sollte für Standardalgorithmen funktionieren.

Sie erhalten das gleiche Ergebnis, wenn Ihre Transformation zwei Bedingungen erfüllt:T

  1. Es werden Abstände beibehalten: , wobei Ihre Metrik ist, sagen wir.d d ( z , w ) = ‖ z - w ‖d(z,w)=d(T(z),T(w))dd(z,w)=‖z−w‖
  2. Es werden Durchschnittswerte beibehalten: Wenn eine konvexe Kombination ist, ist . T ( ∑ i p i z i ) = ∑ i p i T ( z i )∑ipiziT(∑ipizi)=∑ipiT(zi)

Sie können dies überprüfen, indem Sie den Algorithmus durchgehen und zeigen, dass er immer die gleichen Entscheidungen trifft.


Danke Yuval, das macht sehr viel Sinn. Würde dies dann bedeuten, dass A für den euklidischen Abstand eine orthogonale Matrix sein müsste, um eine starre Transformation zu erzeugen?
— Ana Echavarria

Es scheint so.
— Yuval Filmus
Durch die Nutzung unserer Website bestätigen Sie, dass Sie unsere Cookie-Richtlinie und Datenschutzrichtlinie gelesen und verstanden haben.
Licensed under cc by-sa 3.0 with attribution required.