Vorhersage kategorialer Antwortvariablen

Ich habe die folgenden Daten (in R codiert):

v.a = c('cat', 'dog', 'dog', 'goat', 'cat', 'goat', 'dog', 'dog')
v.b = c(1, 2, 1, 2, 1, 2, 1, 2)
v.c = c('blue', 'red', 'blue', 'red', 'red', 'blue', 'yellow', 'yellow')
set.seed(12)
v.d = rnorm(8)
aov(v.a ~ v.b + v.c + v.d) # Error

Ich würde gerne wissen, ob der Wert von v.boder der Wert von v.ceine Fähigkeit hat, den Wert von vorherzusagen v.a. Ich würde eine ANOVA ausführen (wie oben gezeigt), aber ich denke, dass dies keinen Sinn ergibt, da meine Antwortvariable nicht ordinal ist (sie ist kategorisch). Was sollte ich tun?

Sie können einen beliebigen Klassifikator verwenden. Einschließlich linearer Diskriminanten, multinomialer Logit, wie Bill betonte, Support Vector Machines, neuronaler Netze, CART, zufälliger Wald, C5-Bäume, gibt es eine Welt verschiedener Modelle, die Ihnen helfen können, mithilfe von und vorherzusagen . Hier ist ein Beispiel für die R-Implementierung einer zufälligen Gesamtstruktur:$v.a$$v.b$$v.c$

# packages
library(randomForest)

#variables
v.a= c('cat','dog','dog','goat','cat','goat','dog','dog')
v.b= c(1,2,1,2,1,2,1,2)
v.c= c('blue', 'red', 'blue', 'red', 'red', 'blue', 'yellow', 'yellow')

# model fit
# note that you must turn the ordinal variables into factor or R wont use
# them properly
model <- randomForest(y=as.factor(v.a),x=cbind(v.b,as.factor(v.c)),ntree=10)

#plot of model accuracy by class
plot(model)

# model confusion matrix
model$confusion

Offensichtlich zeigen diese Variablen keine starke Beziehung.

_{Dies ist eher eine teilweise praktische Antwort, aber es funktioniert für mich, einige Übungen zu machen, bevor ich tief in die Theorie eintauche} .

Dieser ats.ucla.edu- Link ist eine Referenz, die dazu beitragen kann, die multinomiale logistische Regression (wie von Bill hervorgehoben) auf praktischere Weise zu verstehen.
Es enthält reproduzierbaren Code zum Verständnis der Funktion multinomaus dem nmetPaket Rund gibt auch eine Einführung in die Interpretation der Ausgaben.

Betrachten Sie diesen Code:

va = c('cat','dog','dog','goat','cat','goat','dog','dog') 
     # cat will be the outcome baseline
vb = c(1,2,1,2,1,2,1,2)
vc = c('blue','red','blue','red','red','blue','yellow','yellow') 
     # blue will be the vc predictor baseline
set.seed(12)
vd = round(rnorm(8),2)

data = data.frame(cbind(va,vb,vc,vd))

library(nnet)
fit <- multinom(va ~ as.numeric(vb) + vc + as.numeric(vd), data=data)

# weights:  18 (10 variable)
initial  value 8.788898 
iter  10 value 0.213098
iter  20 value 0.000278
final  value 0.000070 
converged

fit

Call:
multinom(formula = va ~ as.numeric(vb) + vc + as.numeric(vd), 
    data = data)

Coefficients:
     (Intercept) as.numeric(vb)     vcred  vcyellow as.numeric(vd)
dog    -1.044866       120.3495 -6.705314  77.41661      -21.97069
goat   47.493155       126.4840 49.856414 -41.46955      -47.72585

Residual Deviance: 0.0001656705 
AIC: 20.00017 

So können Sie das log-linear angepasste multinomiale Logistikmodell interpretieren:

$$\begin{align} \ln\left(\frac{P(va={\rm cat})}{P(va={\rm dog})}\right) &= b_{10} + b_{11}vb + b_{12}(vc={\rm red}) + b_{13}(vc={\rm yellow}) + b_{14}vd \\ &\ \\ \ln\left(\frac{P(va={\rm cat})}{P(va={\rm goat})}\right) &= b_{20} + b_{21}vb + b_{22}(vc={\rm red}) + b_{23}(vc={\rm yellow}) + b_{24}vd \end{align}$$

Hier ist ein Auszug darüber, wie die Modellparameter interpretiert werden können:

• $b_{14}$

$b_{24}$

• $b_{12}$

..... .....

Der Artikel enthält noch viel mehr, aber ich dachte, dieser Teil sei der Kern.

---

Referenz:

Beispiele für die R-Datenanalyse: Multinomiale logistische Regression. UCLA: Statistische Beratungsgruppe.
von http://www.ats.ucla.edu/stat/r/dae/mlogit.htm (abgerufen am 05. November 2013).