Der beste Weg, eine zufällige Gesamtstruktur in einer Publikation darzustellen?

Ich verwende den Random Forest-Algorithmus als robusten Klassifikator für zwei Gruppen in einer Microarray-Studie mit Tausenden von Features.

• Was ist der beste Weg, um die zufällige Gesamtstruktur so darzustellen, dass genügend Informationen vorhanden sind, um sie in einem Papier reproduzierbar zu machen?
• Gibt es eine Plotmethode in R, um den Baum tatsächlich zu plotten, wenn es eine kleine Anzahl von Features gibt?
• Ist die OOB-Schätzung der Fehlerrate die beste zu zitierende Statistik?

Um es reproduzierbar zu machen, ist es am besten , reproduzierbare Recherchen (dh Code und Daten) zusammen mit dem Papier bereitzustellen . Stellen Sie es auf Ihrer Website oder auf einer Hosting-Site (wie github) zur Verfügung.

In Bezug auf die Visualisierung hat Leo Breiman einige interessante Arbeiten dazu geleistet (siehe seine Homepage , insbesondere den Abschnitt zu Grafiken ).

Wenn Sie jedoch R verwenden, enthält das randomForestPaket einige nützliche Funktionen:

data(mtcars)
mtcars.rf <- randomForest(mpg ~ ., data=mtcars, ntree=1000, keep.forest=FALSE,
                           importance=TRUE)
plot(mtcars.rf, log="y")
varImpPlot(mtcars.rf)

Und

set.seed(1)
data(iris)
iris.rf <- randomForest(Species ~ ., iris, proximity=TRUE,
                        keep.forest=FALSE)
MDSplot(iris.rf, iris$Species)

Ich kenne keine einfache Möglichkeit, einen Baum tatsächlich zu zeichnen, aber Sie können die getTreeFunktion verwenden, um den Baum abzurufen und diesen separat zu zeichnen.

getTree(randomForest(iris[,-5], iris[,5], ntree=10), 3, labelVar=TRUE)

Die Präsentation von Strobl / Zeileis zum Thema "Warum und wie man zufällige waldvariable Wichtigkeitsmaße verwendet (und wie man das nicht sollte)" enthält Beispiele von Bäumen, die auf diese Weise erzeugt worden sein müssen. Dieser Blog-Beitrag zu Baummodellen enthält einige schöne Beispiele für CART-Baumdiagramme, die Sie beispielsweise verwenden können.

Wie @chl bemerkte, ist ein einzelner Baum in diesem Zusammenhang nicht besonders aussagekräftig. Wenn ich ihn nicht zur Erklärung eines zufälligen Waldes verwende, würde ich ihn nicht in ein Papier aufnehmen.

1. Wie Shane schrieb; machen es reproduzierbar Forschung + enthalten zufällige Samen, weil RF stochastisch ist.
2. Zuallererst ist das Plotten einzelner Bäume, die RF bilden, Unsinn; Dies ist ein Ensemble-Klassifikator, der nur als Ganzes Sinn macht. Aber selbst das Plotten des gesamten Waldes ist Unsinn - es ist ein Black-Box-Klassifikator, daher ist es nicht beabsichtigt, die Daten mit ihrer Struktur zu erklären, sondern den ursprünglichen Prozess zu replizieren. Machen Sie stattdessen einige der von Shane vorgeschlagenen Handlungen.
3. In der Praxis ist OOB eine sehr gute Fehlerannäherung. Dies ist jedoch keine allgemein akzeptierte Tatsache. Daher ist es für die Veröffentlichung besser, einen Lebenslauf zu verfassen, um dies zu bestätigen.

Beachten Sie, dass die Vorbehalte in den anderen Antworten zur Handlung unbedingt von Bedeutung sind. Wenn Sie jedoch eine Handlung zu illustrativen / pädagogischen Zwecken wünschen, kann der folgende Ausschnitt von R nützlich sein. Es ist nicht schwer, dem Kantentext bei Bedarf einen "Trennpunkt" hinzuzufügen.

to.dendrogram <- function(dfrep,rownum=1,height.increment=0.1){

  if(dfrep[rownum,'status'] == -1){
    rval <- list()

    attr(rval,"members") <- 1
    attr(rval,"height") <- 0.0
    attr(rval,"label") <- dfrep[rownum,'prediction']
    attr(rval,"leaf") <- TRUE

  }else{##note the change "to.dendrogram" and not "to.dendogram"
    left <- to.dendrogram(dfrep,dfrep[rownum,'left daughter'],height.increment)
    right <- to.dendrogram(dfrep,dfrep[rownum,'right daughter'],height.increment)
    rval <- list(left,right)

    attr(rval,"members") <- attr(left,"members") + attr(right,"members")
    attr(rval,"height") <- max(attr(left,"height"),attr(right,"height")) + height.increment
    attr(rval,"leaf") <- FALSE
    attr(rval,"edgetext") <- dfrep[rownum,'split var']
    #To add Split Point in Dendrogram
    #attr(rval,"edgetext") <- paste(dfrep[rownum,'split var'],"\n<",round(dfrep[rownum,'split point'], digits = 2),"=>", sep = " ")
  }

  class(rval) <- "dendrogram"

  return(rval)
}

mod <- randomForest(Species ~ .,data=iris)
tree <- getTree(mod,1,labelVar=TRUE)

d <- to.dendrogram(tree)
str(d)
plot(d,center=TRUE,leaflab='none',edgePar=list(t.cex=1,p.col=NA,p.lty=0))