Wie werden zufällige Wälder und extrem zufällige Bäume unterschiedlich aufgeteilt?

Für zufällige Gesamtstrukturen teilen wir den Knoten nach Gini-Verunreinigung oder Entropie für eine Reihe von Merkmalen auf. Mit dem RandomForestClassifier in sklearn können wir wählen, ob wir das Gini-Kriterium oder das Entropy-Kriterium verwenden möchten. Was ich jedoch über Extra-Trees Classifier gelesen habe, ist ein zufälliger Wert für die Aufteilung (ich denke, dann hat das nichts mit Gini oder Entropy zu tun). Der ExtraTreesClassifier von sklearn bietet die Möglichkeit, Gini oder Entropy für die Aufteilung auszuwählen. Ich bin hier ein bisschen verwirrt.

Eine Iteration von Random Forest:

1. Wählen $m$ Merkmale zufällig als Kandidatensatz für Aufteilungsmerkmale
2. Suchen Sie in jedem dieser Features den "besten" Schnittpunkt, wobei "bester" durch Gini / Entropy / welches Maß auch immer definiert wird
3. Jetzt hast du $m$Funktionen gepaart mit ihren optimalen Schnittpunkten. Wählen Sie als Aufteilungsfunktion und schneiden Sie das Paar mit der "besten" Leistung in Bezug auf Gini / Entropie / welches Maß auch immer

Eine Iteration extrem randomisierter Bäume:

1. Wählen $m$ Merkmale zufällig als Kandidatensatz für Aufteilungsmerkmale

2. Innerhalb jeder dieser Funktionen $F_i$mit $i \in {1, ...,m}$ Zeichnen Sie einen einzelnen zufälligen Schnittpunkt gleichmäßig aus dem Intervall $(min(F_i), max(F_i))$. Bewerten Sie die Leistung dieser Funktion mit diesem Schnittpunkt in Bezug auf Gini / Entropie / welches Maß auch immer

3. Jetzt hast du $m$Funktionen gepaart mit ihren zufällig ausgewählten Schnittpunkten. Wählen Sie als Aufteilungsfunktion und schneiden Sie das Paar mit der "besten" Leistung in Bezug auf Gini / Entropie / welches Maß auch immer