Lineare Projektion in „Die Elemente des statistischen Lernens“ verstehen

In dem Buch "Die Elemente des statistischen Lernens" in Kapitel 2 ("Lineare Modelle und kleinste Quadrate; Seite Nr. 12") steht das geschrieben

Im (p + 1) -dimensionalen Eingabe-Ausgabe-Raum repräsentiert (X, Y) eine Hyperebene. Wenn die Konstante in X enthalten ist, enthält die Hyperebene den Ursprung und ist ein Unterraum. Wenn nicht, handelt es sich um eine affine Menge, die die Y-Achse am Punkt (0, ) schneidet . $\beta$

Ich verstehe den Satz "wenn Konstante ... (0, )" nicht ". Bitte helfen Sie? Ich denke, die Hyperebene würde in beiden Fällen die Y-Achse bei (0, ) schneiden. Ist das richtig? $\beta$ $\beta$

Die Antwort unten hat etwas geholfen, aber ich suche nach einer genaueren Antwort. Ich verstehe, dass wenn im , es keinen Ursprung enthält, aber wie würde dann das den Ursprung enthalten? Sollte es nicht vom Wert von abhängen ? Wenn intercept nicht , sollte nach meinem Verständnis keinen Ursprung enthalten? $1$ $X$ $(X,Y)$ $\beta$ $\beta_0$ $0$ $(X,Y)$

regression machine-learning

— Abhinav Gupta
quelle

Wie viel lineare Algebra haben Sie getan? Wissen Sie, was Vektoren sind? Was ist mit Vektorräumen, Teilräumen, ...?

— Adrian

Ich habe ein grundlegendes Verständnis von linearer Algebra, Vektor und Vektorräumen.

— Abhinav Gupta

en.wikipedia.org/wiki/Hyperplane hat ein bisschen über affine Hyperebenen und Vektor-Hyperebenen

— Adrian

Thnaks! Lies einfach diesen Artikel. Aber ich verstehe immer noch nicht, wie man sagen kann, dass die Hyperebene den Ursprung enthält, wenn der Contant in X enthalten ist. Wenn dies klar ist, verstehe ich, warum die Hyperebene ein Unterraum ist.

— Abhinav Gupta

Seite Nr.: 12. Ich habe die Frage auch bearbeitet.

— Abhinav Gupta

Antworten:

Das Einfügen der Konstante 1in den Eingabevektor ist ein gängiger Trick, um eine Verzerrung einzuschließen (denken Sie an den Y-Achsenabschnitt), aber alle Begriffe des Ausdrucks symmetrisch zu halten: Sie können überall anstelle von schreiben . $\beta X$ $\beta_0 + \beta X$

Wenn Sie dies tun, ist es richtig, dass die Hyperebene den Ursprung enthält, da der Ursprung ein Vektor von Werten ist und das Multiplizieren mit den Wert ergibt . $Y = \beta X$ $0$ $\beta$ $0$

Ihre Eingabevektoren haben jedoch immer das erste Element gleich ; Daher werden sie niemals den Ursprung enthalten und auf einer kleineren Hyperebene platziert, die eine Dimension weniger hat. $1$

Sie können dies visualisieren, indem Sie an eine Linie auf Ihrem Blatt Papier denken (2 Dimensionen). Die entsprechende Hyperebene, wenn Sie die Vorspannung $Y=mx+q$ $q$ $X = [x, x_0=1]$ $\beta = [m, q]$ $x_0=1$

— giorgiosironi
quelle

Ich verstehe es immer noch nicht ganz. Das Buch sagt: "Wenn die Konstante in X enthalten ist, enthält die Hyperebene den Ursprung und ist ein Unterraum." Wie Sie bereits angegeben haben, haben Eingabevektoren immer das erste Element = 1, enthalten also niemals den Ursprung. Wie kann also eine Konstante eingeschlossen werden?

— Ich

x_{0}

$x_0$

x_{0} = 1

$x_0 = 1$

x_{0} = 1

$x_0 = 1$

Um Ihnen das Verständnis zu erleichtern, habe ich einen sehr einfachen Fall visualisiert.

$X_1$ $Y$ $\beta_0 = 5$ $\beta_1 = 2$ $X_1$

$\hat{Y} = \beta_0 + \beta_1 \times X_1$

Daher wäre die offensichtliche Darstellung in diesem Fall (2d) eine Hyperebene (eine Linie) im (p + 1) -dimensionalen Raum:

$X_0$ $\hat{Y} = \beta_0 \times X_0 + \beta_1 \times X_1$

$X_0$

$X_0 = 1$

— grll
quelle