Einbeziehen der Interaktion, jedoch nicht der Haupteffekte in ein Modell

Gilt es jemals, eine bidirektionale Interaktion in ein Modell aufzunehmen, ohne die Haupteffekte einzubeziehen? Was ist, wenn es bei Ihrer Hypothese nur um die Interaktion geht, müssen Sie dann noch die Haupteffekte berücksichtigen?

Nach meiner Erfahrung ist es nicht nur erforderlich, alle Effekte niedrigerer Ordnung im Modell zu haben, wenn sie mit Effekten höherer Ordnung verbunden sind, sondern es ist auch wichtig, Haupteffekte richtig zu modellieren (z. B. nichtlineare Effekte zulassen), mit denen scheinbar keine Beziehung besteht die Faktoren in den Wechselwirkungen von Interesse. Das liegt daran, dass Interaktionen zwischen und für die Haupteffekte von und als . Manchmal scheinen Interaktionen erforderlich zu sein, weil sie mit ausgelassenen Variablen oder ausgelassenen nichtlinearen (z. B. Spline-) Begriffen kollinear sind.x 2 x $x_1$$x_2$$x_3$$x_4$

Sie fragen, ob es jemals gültig ist. Lassen Sie mich ein allgemeines Beispiel anführen, dessen Erläuterung möglicherweise zusätzliche analytische Ansätze für Sie nahe legt.

Das einfachste Beispiel für eine Interaktion ist ein Modell mit einer abhängigen Variablen und zwei unabhängigen Variablen , im FormularX $Z$$X$$Y$

$$Z = \alpha + \beta' X + \gamma' Y + \delta' X Y + \varepsilon,$$

mit eine zufällige Termvariable mit Nullerwartung und unter Verwendung der Parameter und . Oft lohnt es sich zu prüfen, ob ungefähr , da es sich um einen algebraisch äquivalenten Ausdruck des gleichen Modells handelt& agr; , β ' , γ ' , δ ' δ ' β ' γ $\varepsilon$$\alpha, \beta', \gamma',$$\delta'$$\delta'$$\beta' \gamma'$

$$Z = \alpha \left(1 + \beta X + \gamma Y + \delta X Y \right) + \varepsilon$$

$$= \alpha \left(1 + \beta X \right) \left(1 + \gamma Y \right) + \alpha \left( \delta - \beta \gamma \right) X Y + \varepsilon$$

(wo , etc).$\beta' = \alpha \beta$

Woher, wenn es einen Grund gibt anzunehmen, dass , können wir es in den Fehlerbegriff . Dies führt nicht nur zu einer "reinen Interaktion", sondern auch ohne konstanten Begriff. Dies wiederum deutet stark auf Logarithmen hin. Eine gewisse Heteroskedastizität in den Residuen - das heißt eine Tendenz für Residuen, die mit größeren Werten von assoziiert sind und einen größeren absoluten Wert als der Durchschnitt aufweisen - würde ebenfalls in diese Richtung weisen. Wir würden dann eine alternative Formulierung untersuchen wollenε $\left( \delta - \beta \gamma \right) \sim 0$$\varepsilon$$Z$

$$\log(Z) = \log(\alpha) + \log(1 + \beta X) + \log(1 + \gamma Y) + \tau$$

mit einem zufälligen Fehler . Wenn wir außerdem erwarten, dass und im Vergleich zu groß sind , würden wir stattdessen nur das Modell vorschlagen& bgr; X $\tau$$\beta X$$\gamma Y$$1$

$$\log(Z) = \left(\log(\alpha) + \log(\beta) + \log(\gamma)\right) + \log(X) + \log(Y) + \tau$$

$$= \eta + \log(X) + \log(Y) + \tau.$$

Dieses neue Modell hat nur einen einzigen Parameter anstelle von vier Parametern ( ;, usw.), die einer quadratischen Beziehung ( ) unterliegen , was eine erhebliche Vereinfachung darstellt.α β ′ δ ′ = β ′ γ $\eta$$\alpha$$\beta'$$\delta' = \beta' \gamma'$

Ich sage nicht, dass dies ein notwendiger oder sogar einziger Schritt ist, aber ich schlage vor, dass diese Art der algebraischen Neuordnung des Modells normalerweise in Betracht gezogen werden sollte, wenn Wechselwirkungen allein als signifikant erscheinen.

In den Kapiteln 10 bis 13 von Tukeys EDA finden Sie einige hervorragende Möglichkeiten, Modelle mit Interaktion zu untersuchen, insbesondere mit nur zwei und drei unabhängigen Variablen .

Während in Lehrbüchern häufig angegeben wird, dass man eine Interaktion in einem Modell niemals ohne die entsprechenden Haupteffekte aufnehmen sollte, gibt es sicherlich Beispiele, bei denen dies durchaus Sinn macht. Ich gebe Ihnen das einfachste Beispiel, das ich mir vorstellen kann.

Angenommen, Probanden, die zufällig zwei Gruppen zugeordnet wurden, werden zweimal gemessen, einmal zu Beginn (dh unmittelbar nach der Randomisierung) und einmal, nachdem Gruppe T irgendeine Art von Behandlung erhalten hat, während Gruppe C dies nicht tat. Dann würde ein Messwiederholungsmodell für diese Daten einen Haupteffekt für Messanlässe (eine Dummy-Variable, die 0 für die Basislinie und 1 für das Follow-up ist) und einen Interaktionsterm zwischen dem Gruppen-Dummy (0 für C, 1 für T) enthalten ) und die Zeitattrappe.

Der Modellabschnitt schätzt dann die durchschnittliche Punktzahl der Probanden zu Studienbeginn (unabhängig von der Gruppe, in der sie sich befinden). Der Koeffizient für die Messanlassattrappe gibt die Änderung in der Kontrollgruppe zwischen der Basislinie und dem Follow-up an. Der Koeffizient für den Interaktionsterm gibt an, um wie viel größer / kleiner die Änderung in der Behandlungsgruppe im Vergleich zur Kontrollgruppe war.

Hier muss der Haupteffekt für die Gruppe nicht berücksichtigt werden, da die Gruppen zu Beginn aufgrund der Randomisierung per Definition gleichwertig sind.

Man könnte natürlich argumentieren, dass der Haupteffekt für die Gruppe immer noch einbezogen werden sollte, so dass im Falle eines Scheiterns der Randomisierung dies durch die Analyse aufgedeckt wird. Dies ist jedoch gleichbedeutend mit dem Testen der Grundlinienmittel der beiden Gruppen gegeneinander. Und es gibt viele Leute, die beim Testen auf Unterschiede in der Grundlinie in randomisierten Studien die Stirn runzeln (natürlich gibt es auch viele, die es nützlich finden, aber dies ist ein anderes Problem).

Der Grund, die Haupteffekte im Modell beizubehalten, liegt in der Erkennbarkeit. Wenn es sich also um statistische Rückschlüsse auf die einzelnen Effekte handelt, sollten Sie die Haupteffekte im Modell beibehalten. Wenn Ihr Modellierungszweck jedoch ausschließlich darin besteht, neue Werte vorherzusagen, ist es absolut legitim, nur die Interaktion einzubeziehen, wenn dies die Vorhersagegenauigkeit verbessert.

Dies ist implizit in vielen Antworten enthalten, die andere gegeben haben. Der einfache Punkt ist jedoch, dass Modelle mit einem Produktbegriff und ohne Moderator und Prädiktor nur unterschiedliche Modelle sind. Finden Sie heraus, was die einzelnen Bedeutungen für den Prozess bedeuten , den Sie modellieren, und ob ein Modell ohne Moderator und Prädiktor angesichts Ihrer Theorie oder Hypothese sinnvoller ist. Die Beobachtung, dass der Produktbegriff signifikant ist, aber nur, wenn Moderator und Prädiktor nicht enthalten sind, sagt nichts aus (außer vielleicht, dass Sie nach "Signifikanz" fischen), ohne eine überzeugende Erklärung, warum es sinnvoll ist, sie wegzulassen .

Es hängt wohl davon ab, wofür Sie Ihr Modell verwenden. Aber ich habe noch nie einen Grund gesehen, Modelle mit Haupteffekten nicht auszuführen und zu beschreiben, selbst in Fällen, in denen es bei der Hypothese nur um die Interaktion geht.

Ich werde einen Absatz aus dem Buch Eine Einführung in die Überlebensanalyse mit Stata von M.Cleves, R.Gutierrez, W.Gould, Y.Marchenko, herausgegeben von Stata Press , ausleihen, um Ihre Frage zu beantworten.

Es ist üblich zu lesen, dass Interaktionseffekte nur dann in das Modell einbezogen werden sollten, wenn die entsprechenden Haupteffekte ebenfalls einbezogen werden. Es ist jedoch nichts Falsches daran, Interaktionseffekte selbst einzubeziehen. [...] Das Ziel eines Forschers ist es, zu parametrisieren, was für die Daten unter Berücksichtigung des vorliegenden Problems mit vernünftiger Wahrscheinlichkeit zutrifft, und nicht nur nach einer Verschreibung.

Sowohl x als auch y werden mit xy korreliert (es sei denn, Sie haben eine bestimmte Maßnahme getroffen, um dies durch Zentrierung zu verhindern). Wenn Sie also mit Ihrem Ansatz einen wesentlichen Interaktionseffekt erzielen, werden sich wahrscheinlich ein oder mehrere Haupteffekte als Interaktion tarnen. Dies wird keine klaren, interpretierbaren Ergebnisse liefern. Was wünschenswert ist, ist stattdessen zu sehen, wie viel die Wechselwirkung darüber hinaus erklären kann, was die Haupteffekte bewirken, indem x , y und (vorzugsweise in einem nachfolgenden Schritt) xy einbezogen werden .

Zur Terminologie: Ja, β 0 wird als "Konstante" bezeichnet. Andererseits hat "partiell" eine bestimmte Bedeutung für die Regression und daher würde ich diesen Begriff hier nicht verwenden, um Ihre Strategie zu beschreiben.

Einige interessante Beispiele, die einmal in einem blauen Mond auftauchen werden, werden in diesem Thread beschrieben .

Ich würde vorschlagen, dass es einfach ein Sonderfall von Modellunsicherheit ist. Aus bayesianischer Sicht behandeln Sie dies einfach genauso, wie Sie jede andere Art von Unsicherheit behandeln würden, indem Sie entweder:

1. Berechnung seiner Wahrscheinlichkeit, wenn es das Objekt von Interesse ist
2. Integrieren oder mitteln Sie es aus, wenn es nicht von Interesse ist, aber dennoch Ihre Schlussfolgerungen beeinflussen kann

$$\newcommand{\int}{\mathrm{int}}H_{\int}:\text{The interaction between A and B is significant}$$ Ich würde sagen, dass dies die Frage ist, die Sie hier beantworten möchten, obwohl sie nicht genau definiert ist. Und beachte, dass es nicht die verbalen Aussagen wie oben sind, die die Hypothese "definieren", sondern auch die mathematischen Gleichungen. Wir haben einige Daten und vorherige Informationen , dann berechnen wir einfach: (kleine Anmerkung: Egal wie oft ich diese Gleichung aufschreibe, es hilft mir immer, das Problem besser zu verstehen. Seltsam). Die zu berechnende Hauptgröße ist die Wahrscheinlichkeit , dies bezieht sich nicht auf das Modell, daher muss das Modell nach dem Gesetz der Gesamtwahrscheinlichkeit entfernt worden sein: I P ( H i n t | D I ) = P ( H i n t | I ) P ( D | H i n t I $D$$I$ $$P(H_{\int}|DI)=P(H_{\int}|I)\frac{P(D|H_{\int}I)}{P(D|I)}$$ $P(D|H_{int}I)$ $$P(D|H_{\int}I)=\sum_{m=1}^{N_{M}}P(DM_{m}|H_{\int}I)=\sum_{m=1}^{N_{M}}P(M_{m}|H_{\int}I)P(D|M_{m}H_{\int}I)$$ Wobei das m-te Modell indiziert und ist die Anzahl der berücksichtigten Modelle. Der erste Begriff ist das "Modellgewicht", das angibt, wie stark die Daten und vorherigen Informationen das m-te Modell unterstützen. Der zweite Term gibt an, wie sehr das m-te Modell die Hypothese unterstützt. Das Einfügen dieser Gleichung in den ursprünglichen Bayes-Satz ergibt: $M_{m}$$N_{M}$ $$P(H_{\int}|DI)=\frac{P(H_{\int}|I)}{P(D|I)}\sum_{m=1}^{N_{M}}P(M_{m}|H_{\int}I)P(D|M_{m}H_{int}I)$$ $$=\frac{1}{P(D|I)}\sum_{m=1}^{N_{M}}P(DM_{m}|I)\frac{P(M_{m}H_{\int}D|I)}{P(DM_{m}|I)}=\sum_{m=1}^{N_{M}}P(M_{m}|DI)P(H_{\int}|DM_{m}I)$$

Und Sie können daraus dass die "bedingte Schlussfolgerung" der Hypothese unter dem m-ten Modell ist (dies ist normalerweise alles, was für ein ausgewähltes "bestes" Modell in Betracht gezogen wird ). Beachten Sie, dass diese Standardanalyse immer dann gerechtfertigt ist, wenn - ein "offensichtlich bestes" Modell - oder wenn - Alle Modelle geben die gleichen / ähnlichen Schlussfolgerungen. Wenn jedoch keines der beiden Kriterien erfüllt ist, besteht das beste Verfahren nach dem Bayes-Theorem darin, die Ergebnisse zu mitteln und die Modelle zu gewichten, die von den Daten und früheren Informationen am meisten unterstützt werden.P ( M m | D I ) ≈ 1 P ( H i n t | D M j I ) ≈ P ( H i n t | D M k I $P(H_{\int}|DM_{m}I)$$P(M_{m}|DI)\approx 1$$P(H_{\int}|DM_{j}I)\approx P(H_{\int}|DM_{k}I)$

Es ist sehr selten eine gute Idee, einen Interaktionsbegriff ohne die damit verbundenen Haupteffekte aufzunehmen. David Rindskopf von CCNY hat einige Artikel über diese seltenen Fälle geschrieben.

Es gibt verschiedene Prozesse in der Natur, die nur einen Interaktionseffekt beinhalten, und Gesetze, die sie beschreiben. Zum Beispiel das Ohmsche Gesetz. In der Psychologie haben Sie zum Beispiel das Leistungsmodell von Vroom (1964): Leistung = Fähigkeit x Motivation. Nun können Sie erwarten, einen signifikanten Interaktionseffekt zu finden, wenn dieses Gesetz wahr ist. Leider ist dies nicht der Fall. Es kann leicht vorkommen, dass Sie zwei Haupteffekte und einen unbedeutenden Interaktionseffekt finden (für eine Demonstration und weitere Erklärung siehe Landsheer, van den Wittenboer und Maassen (2006), Social Science Research 35, 274-294). Das lineare Modell eignet sich nicht sehr gut zur Erkennung von Interaktionseffekten. Ohm hätte sein Gesetz vielleicht nie gefunden, wenn er lineare Modelle verwendet hätte.

Die Interpretation von Interaktionseffekten in linearen Modellen ist daher schwierig. Wenn Sie eine Theorie haben, die einen Interaktionseffekt vorhersagt, sollten Sie diesen auch dann einbeziehen, wenn er unbedeutend ist. Möglicherweise möchten Sie Haupteffekte ignorieren, wenn Ihre Theorie diese ausschließt, aber Sie werden es schwierig finden, da bei einem Mechanismus zur Erzeugung echter Daten, der nur einen multiplikativen Effekt hat, häufig signifikante Haupteffekte auftreten.

Meine Antwort lautet: Ja, es kann gültig sein, eine bidirektionale Interaktion in ein Modell aufzunehmen, ohne die Haupteffekte einzubeziehen. Lineare Modelle sind hervorragende Werkzeuge, um die Ergebnisse einer Vielzahl von Datenerzeugungsmechanismen zu approximieren. Ihre Formeln können jedoch nicht einfach als gültige Beschreibung des Datenerzeugungsmechanismus interpretiert werden.

Dieser ist knifflig und mir in meinem letzten Projekt passiert. Ich würde es so erklären: Nehmen wir an, Sie hatten Variablen A und B, die unabhängig voneinander von Bedeutung waren, und Sie hielten eine Interaktion von A und B aus geschäftlicher Sicht für gut. Sie haben die Interaktion einbezogen, die sich als signifikant herausgestellt hat, aber B hat seine Bedeutung verloren. Sie würden Ihr Modell zunächst anhand von zwei Ergebnissen erläutern. Die Ergebnisse würden zeigen, dass B anfangs signifikant war, aber im Lichte von A seinen Glanz verlor. Also ist B eine gute Variable, aber nur im Lichte der verschiedenen Ebenen von A (wenn A eine kategoriale Variable ist). Es ist so, als würde man sagen, Obama sei ein guter Führer, wenn man es im Lichte seiner SEAL-Armee sieht. Das Obama-Siegel wird also eine bedeutende Variable sein. Aber allein gesehen ist Obama vielleicht nicht so wichtig. (Kein Vergehen gegen Obama, nur ein Beispiel.)

F = m * a, Kraft ist gleich Masse mal Beschleunigung.

Es wird nicht als F = m + a + ma oder irgendeine andere lineare Kombination dieser Parameter dargestellt. Tatsächlich wäre nur die Wechselwirkung zwischen Masse und Beschleunigung physikalisch sinnvoll.

Gilt es jemals, eine wechselseitige Interaktion ohne Haupteffekt einzubeziehen?

Ja, es kann gültig und sogar notwendig sein. Wenn Sie zum Beispiel in 2. einen Faktor für den Haupteffekt (durchschnittlicher Unterschied zwischen Blau und Rot) eingeben, würde dies das Modell verschlechtern.

Was ist, wenn es bei Ihrer Hypothese nur um die Interaktion geht, müssen Sie dann noch die Haupteffekte berücksichtigen?

Ihre Hypothese könnte zutreffen, unabhängig davon, ob ein Haupteffekt vorliegt. Das Modell benötigt es jedoch möglicherweise, um den zugrunde liegenden Prozess am besten zu beschreiben. Also ja, du solltest es mit und ohne probieren.

Hinweis: Sie müssen den Code für die "kontinuierliche" unabhängige Variable zentrieren (Messung im Beispiel). Andernfalls werden die Interaktionskoeffizienten im Modell nicht symmetrisch verteilt (kein Koeffizient für die erste Messung im Beispiel).

Wenn die fraglichen Variablen kategorisiert sind, ist das Einschließen von Interaktionen ohne die Haupteffekte nur eine Neuparametrisierung des Modells. Die Wahl der Parametrisierung hängt davon ab, was Sie mit Ihrem Modell erreichen möchten. Die Interaktion von stetigen Variablen mit anderen stetigen Variablen oder mit kategorialen Variablen ist eine ganz andere Geschichte. Siehe: Siehe diese FAQ vom UCLA-Institut für digitale Forschung und Bildung

Ja, dies kann gültig sein, obwohl es selten ist. In diesem Fall müssen Sie jedoch noch die Haupteffekte modellieren, die Sie anschließend zurückführen.

In der Tat ist in einigen Modellen nur die Interaktion interessant, wie z. B. Drogentests / klinische Modelle. Dies ist zum Beispiel die Grundlage des Generalized PsychoPhysiological Interactions (gPPI) -Modells: y = ax + bxh + chWo x/ysind Voxel / Regionen von Interesse und hdie Block- / Ereignisdesigns ?

In diesem Modell werden beide, aund csie werden herausgeregelt, nur bzur Inferenz aufbewahrt (die Beta-Koeffizienten). In der Tat repräsentieren beide aund cin unserem Fall eine unechte Aktivität und repräsentieren nur bdas, was nicht durch unechte Aktivität erklärt werden kann, die Interaktion mit der Aufgabe.

Die kurze Antwort: Wenn Sie die Interaktion in die festen Effekte einbeziehen, werden die Haupteffekte automatisch einbezogen, unabhängig davon, ob Sie sie speziell in Ihren Code einbeziehen oder nicht . Der einzige Unterschied ist Ihre Parametrisierung, dh was die Parameter in Ihrem Modell bedeuten (z. B. sind sie Gruppenmittelwerte oder sind sie Unterschiede zu Referenzwerten).

$AB$$A + B + AB$$A$$B$

$Y \sim \mathcal N(\xi , \sigma^2 I_n )$$X_A$$X_B$$X_{AB}$$\xi \in$$\{X_A, X_B, X_{AB}\}$$\xi \in$$\{X_{AB}\}$$\{X_{AB}\} =$$\{X_A, X_B, X_{AB}\}$

Ich habe gerade gesehen, dass David Beede eine sehr ähnliche Antwort lieferte (Entschuldigung), aber ich dachte, ich würde dies denen überlassen, die gut auf eine lineare Algebra-Perspektive reagieren.