Können Bäume mit Gefälle für jede Funktion geeignet sein?

Für neuronale Netze haben wir den universellen Approximationssatz, der besagt, dass neuronale Netze jede stetige Funktion auf einer kompakten Teilmenge von approximieren können $R^n$ .

Gibt es ein ähnliches Ergebnis für Bäume mit Farbverlauf? Es scheint vernünftig, da Sie weitere Zweige hinzufügen können, aber ich kann keine formelle Diskussion über das Thema finden.

EDIT: Meine Frage scheint sehr ähnlich zu Können Regressionsbäume kontinuierlich vorhersagen? , obwohl vielleicht nicht genau das Gleiche gefragt. Aber sehen Sie diese Frage für relevante Diskussion.

decision-trees

— Imran
quelle

Gute Frage! Ich konnte nichts dazu finden, aber hier sind die PAC-Grenzen für Entscheidungsbäume. Fragen Sie noch einmal nach cstheory.

— Emre

Siehe hier: projecteuclid.org/download/pdf_1/euclid.aos/1013203451 . Es ist eine alte Lektüre. Ich glaube, es hat das, wonach Sie suchen. Soweit ich das grundsätzlich verstehe, können sie. Lassen Sie mich wissen, was Sie davon halten.

— TwinPenguins

Ja - Erstellen Sie eine Region für jeden Datenpunkt (dh speichern Sie die Trainingsdaten).

Somit ist es möglich, dass Bäume mit Gradientenverstärkung für alle Trainingsdaten geeignet sind, die Verallgemeinerung auf neue Daten wäre jedoch begrenzt.

— Brian Spiering
quelle