Moderierte Regression: Warum berechnen wir einen * Produktterm * zwischen den Prädiktoren?

12

Moderierte Regressionsanalysen werden in den Sozialwissenschaften häufig verwendet, um die Interaktion zwischen zwei oder mehr Prädiktoren / Kovariaten zu bewerten.

In der Regel wird bei zwei Prädiktorvariablen das folgende Modell angewendet:

$Y = β_0 + β_1*X + β_2*M + β_3*XM + e$

Beachten Sie, dass der Moderationstest durch den Produktbegriff $XM$ (die Multiplikation zwischen der unabhängigen Variablen $X$ und der Moderatorvariablen $M$ ) operationalisiert wird . Meine grundlegende Frage lautet: Warum berechnen wir eigentlich einen Produktterm zwischen $X$ und $M$ ? Warum nicht zum Beispiel die absolute Differenz $|M-X|$ oder nur die Summe $X + M$ ?

Interessanterweise spielt Kenny auf dieses Problem hier http://davidakenny.net/cm/moderation.htm an, indem er sagt: "Wie man sehen wird, wird der Moderationstest nicht immer durch den Produktbegriff XM operationalisiert", aber es wird keine weitere Erklärung gegeben . Eine formale Illustration oder ein Beweis wären aufschlussreich, denke ich.

regression interaction

— Nenner
quelle

12

Ein "Moderator" beeinflusst die Regressionskoeffizienten von gegen : Sie können sich ändern, wenn sich die Werte des Moderators ändern. Ganz allgemein ist das einfache Regressionsmodell der Moderation $Y$ $X$

E (Y) = α (M) + β (M) X

$\mathbb{E}(Y) = \alpha(M) + \beta(M)X$

Dabei sind und eher Funktionen des Moderators als Konstanten, die von den Werten von . $\alpha$ $\beta$ $M$ $M$

In demselben Sinne, in dem die Regression auf einer linearen Annäherung der Beziehung zwischen und beruht , können wir hoffen, dass sowohl als auch - zumindest annähernd - lineare Funktionen von gesamten Wertebereich von in den Daten: $X$ $Y$ $\alpha$ $\beta$ $M$ $M$

\begin{aligned} E (Y) & = α_{0} + α_{1} M + O (M^{2}) + (β_{0} + β_{1} M + O (M^{2})) X \\ = α_{0} + β_{0} X + α_{1} M + β_{1} M X + O (M^{2}) + O (M^{2}) X . \end{aligned}

$\eqalign{ \mathbb{E}(Y) &= \alpha_0 + \alpha_1 M + O(M^2) + (\beta_0 + \beta_1 M + O(M^2))X \\ &= \alpha_0 + \beta_0 X + \alpha_1 M + \beta_1 MX + O(M^2) + O(M^2)X. }$

Wenn die nichtlinearen ("big-O") Terme fallengelassen werden, in der Hoffnung, dass sie zu klein sind, um eine Rolle zu spielen, ergibt sich das multiplikative (bilineare) Interaktionsmodell

\begin{matrix} (1) & E (Y) = α_{0} + β_{0} X + α_{1} M + β_{1} M X . \end{matrix}

$\mathbb{E}(Y) = \alpha_0 + \beta_0 X + \alpha_1 M + \beta_1 MX.\tag{1}$

Diese Herleitung legt eine interessante Interpretation der Koeffizienten nahe: ist die Rate, mit der den ändert , während die Rate ist, mit der die Steigung ändert . ( ; und ; sind die Steigung und der Achsenabschnitt, wenn (formal) auf Null gesetzt ist.) ist der Koeffizient des "Produktterms" . Es beantwortet die Frage auf diese Weise: $\alpha_1$ $M$ $\beta_1$ $M$ $\alpha_0$ $\beta_0$ $M$ $\beta_1$ $MX$

Wir modellieren die Moderation mit einem Produktterm wenn wir erwarten, dass der Moderator (ungefähr im Durchschnitt) eine lineare Beziehung zur Steigung von vs . $MX$ $M$ $Y$ $X$

Interessant ist, dass diese Herleitung den Weg zu einer natürlichen Erweiterung des Modells weist, was möglicherweise Wege zur Überprüfung der Anpassungsgüte aufzeigt. Wenn Sie sich nicht mit Nichtlinearität in befassen - Sie wissen oder gehen davon aus, dass Modell genau ist -, sollten Sie das Modell erweitern, um die abgelegten Begriffe zu berücksichtigen: $X$ $(1)$

E (Y) = α_{0} + β_{0} X + α_{1} M + β_{1} M X + α_{2} M^{2} + β_{2} M^{2} X .

$\mathbb{E}(Y) = \alpha_0 + \beta_0 X + \alpha_1 M + \beta_1 MX + \alpha_2M^2 + \beta_2 M^2X.$

Durch Testen der Hypothese die Anpassungsgüte bewertet. Die Schätzung von und könnte angeben, auf welche Weise das Modell möglicherweise erweitert werden muss: um die Nichtlinearität in (wenn ) oder eine kompliziertere moderierende Beziehung (wenn ) oder möglicherweise beide. (Beachten Sie, dass dieser Test nicht durch eine Potenzreihenerweiterung einer generischen Funktion .) $\alpha_2=\beta_2=0$ $\alpha_2$ $\beta_2$ $(1)$ $M$ $\alpha_2 \ne 0$ $\beta_2 \ne 0$ $f(X,M)$

Wenn Sie schließlich feststellen würden, dass der Interaktionskoeffizient nicht signifikant von Null , sondern dass die Anpassung nichtlinear ist (wie durch einen signifikanten Wert von ), würden Sie folgern, dass (a) eine Moderation vorliegt, aber ( b) Es wird nicht durch einen Term modelliert , sondern durch einige Terme höherer Ordnung, die mit . Dies könnte das Phänomen sein, auf das sich Kenny bezog. $\beta_1$ $\beta_2$ $MX$ $M^2X$

— whuber
quelle

8

Wenn Sie die Summe der Prädiktoren verwenden, um ihre Interaktion zu modellieren, lautet Ihre Gleichung:

\begin{array}{rcl} Y & = & β_{0} + β_{1} X + β_{2} M + β_{3} (X + M) + e \\ = & β_{0} + β_{1} X + β_{2} M + β_{3} X + β_{3} M + e \\ = & β_{0} + (β_{1} + β_{3}) X + (β_{2} + β_{3}) M + e \\ = & β_{0} + β_{1}^{'} X + β_{2}^{'} M + e \end{array}

$\begin{eqnarray} Y &=& \beta_0 + \beta_1X + \beta_2M + \beta_3(X + M) + e\\ &=& \beta_0 + \beta_1X + \beta_2M + \beta_3X + \beta_3M + e\\ &=& \beta_0 + (\beta_1 + \beta_3)X + (\beta_2 + \beta_3)M + e \\ &=& \beta_0 + \beta_1'X + \beta_2'M + e \end{eqnarray}$

Dabei ist und . Daher würde Ihr Modell überhaupt keine Interaktion haben. Offensichtlich ist dies bei Produkten nicht der Fall. $\beta_1'=\beta_1+\beta_3$ $\beta_2'=\beta_2+\beta_3$

Erinnern Sie sich an die Definition des absoluten Wertes:

| X - M | = {\begin{cases} X - M, & X \geq M \\ M - X, & X < M \end{cases}

$|X-M| = \begin{cases} X-M, & X \geq M\\ M-X, & X < M \end{cases}$

Obwohl Sie das Modell reduzieren können zu dem mit nur und Termen unter Verwendung des def. vonDer absolute Wert ist eine "spezialisierte Form der Moderation, die in vielen Situationen wahrscheinlich nicht realistisch ist", wie im folgenden Kommentar ausgeführt. $\beta_0 + \beta_1X + \beta_2M + \beta_3|X-M| + e$ $X$ $M$ $|X-M|$

— Milos
quelle

1

Eigentlich inklusive einesBegriff ist nachweislich eine Form der Moderation: Der Wert von ändert sich . Es ist jedoch eine begrenzte, spezialisierte Form der Moderation, die in vielen Situationen wahrscheinlich nicht realistisch ist. Es ist nicht richtig zu sagen, dass ein solches Modell "nur Hauptwirkungen" hat.

| X - M |

$|X-M|$

M

$M$

β_{2}

$\beta_2$

— whuber

1

Ja, du hast recht,Ist eine Form der Mäßigung, habe ich mich von der Verwandlung mitreißen lassen und werde die Antwort entsprechend bearbeiten. Vielen Dank für den Hinweis.

| X - M |

$|X-M|$

— Milos

@Milos: Dein Beispiel über die Summe der Prädiktoren war ein Augenöffner, ein etwas peinlicher, ich muss sagen, weil ich die mathematischen Implikationen bereits hätte erkennen müssen;) whuber: Soweit ich das verstehe, ist der absolute Wert nur nützlich wenn beide Prädiktorvariablen in denselben Einheiten gemessen werden (z. B. zwei psychometrische Tests unter Verwendung derselben Metrik, wie z-Scores oder T-Scores). Der absolute Unterschied zwischen X und M ist eine nützliche Metrik, obwohl nicht die einzig mögliche (dh der Produktterm könnte auch verwendet werden).

— Nenner

6

Sie werden keinen formalen Beweis für die Verwendung des multiplikativen Moderators finden. Sie können diesen Ansatz auf andere Weise unterstützen. Schauen Sie sich zum Beispiel die Taylor-MacLaurin-Erweiterung einer Funktion : $f(X,M)$

f (X, M) = f (0, 0) + \frac{\partial f (0, 0)}{\partial T} T + \frac{\partial f (0, 0)}{\partial M} M + \frac{\partial^{2} f (0, 0)}{\partial T \partial M} T M + \frac{\partial^{2} f (0, 0)}{2 \partial T^{2}} T^{2} + \frac{\partial^{2} f (0, 0)}{2 \partial M^{2}} M^{2} \dots

$f(X,M)=f(0,0)+\frac{\partial f(0,0)}{\partial T} T+\frac{\partial f(0,0)}{\partial M} M+\frac{\partial^2 f(0,0)}{\partial T\partial M} TM +\frac{\partial^2 f(0,0)}{2\partial T^2} T^2 +\frac{\partial^2 f(0,0)}{2\partial M^2} M^2\dots$

Wenn Sie eine Funktion dieser Form in die Taylor-Gleichung , erhalten Sie : $f(X,M)=\beta_0+\beta_XX+\beta_MM+\beta_{XM}XM$

f (X, M) = β_{0} + β_{X} X + β_{M} M + β_{X M} X M

$f(X,M)=\beta_0+\beta_XX +\beta_MM +\beta_{XM}XM$

Das Grundprinzip hier ist also, dass diese besondere multiplikative Form der Moderation im Grunde eine Taylor-Approximation zweiter Ordnung einer generischen Moderationsbeziehung $f(X,M)$

UPDATE: Wenn Sie quadratische Terme einschließen, wie @whuber vorgeschlagen hat, geschieht Folgendes: Schließen Sie dies an Taylor an:

g (X, M) = b_{0} + b_{X} X + b_{M} M + b_{X M} X M + b_{X 2} X^{2} + b_{M 2} M^{2}

$g(X,M)=b_0+b_XX +b_MM +b_{XM}XM+b_{X2}X^2 +b_{M2}M^2$

g (X, M) = b_{0} + b_{X} X + b_{M} M + b_{X M} X M + b_{X 2} X^{2} + b_{M 2} M^{2}

$g(X,M)=b_0+b_XX +b_MM +b_{XM}XM +b_{X2}X^2 +b_{M2}M^2$

Dies zeigt, dass unser neues Modell mit quadratischen Termen im Gegensatz zum ursprünglichen Moderationsmodell einer Taylor-Approximation zweiter Ordnung entspricht . $g(X,M)$ $f(X,M)$

— Aksakal
quelle

Da die Grundlage Ihrer Argumentation die Taylor-Erweiterung ist, warum haben Sie nicht auch die anderen beiden quadratischen Terme und ? Es stimmt, es handelt sich nicht um Moderationsformen, aber ihre Aufnahme in das Modell normalerweise auf .

X^{2}

$X^2$

M^{2}

$M^2$ $\beta_{XM}$

— Whuber

@whuber, ich habe beschlossen, den Beitrag kurz zu halten - das ist der Hauptgrund. Ansonsten begann ich zu schreiben, ob ich es vorziehen würde, Termini zweiter Ordnung einzuschließen, wenn Sie einen Kreuzterm haben, und schnitt ihn dann aus.

— Aksakal