Statistiken und Big Data machine-learning

3

Ist Feature Engineering wichtig, wenn Random Forest oder Gradient Boosting durchgeführt werden?

Für lineare Modelle (wie lineare Regression, logistische Regression usw.) ist das Feature-Engineering ein wichtiger Schritt, um die Leistung der Modelle zu verbessern. Meine Frage ist, ist es wichtig, ob wir Feature-Engineering durchführen, während wir zufällige Gesamtstruktur- oder Gradienten-Boosting verwenden? Zugegeben, diese Modelle sind keine Deep-Learning-Modelle. aber ， es scheint, dass …

9 machine-learning random-forest feature-construction gbm boosting

1

So wählen Sie den Typ der GAM-Parameter

Ich habe begonnen, mit GAM in R zu arbeiten, und ich habe Simon Woods ausgezeichnetes Buch zum Thema ( "Generalisierte additive Modelle Eine Einführung mit R" ) erworben. Anhand eines seiner Beispiele betrachte ich Folgendes: library(mgcv) data(trees) ct1<-gam(log(Volume) ~ Height + s(Girth), data=trees) Ich habe zwei allgemeine Fragen zu diesem …

9 r regression machine-learning gam mgcv

1

SVM-Kostenfunktion: alte und neue Definitionen

Ich versuche, verschiedene Definitionen der SVM-Kosten-Verlust-Funktion mit weichen Margen in ursprünglicher Form miteinander in Einklang zu bringen. Es gibt einen "max ()" - Operator, den ich nicht verstehe. Ich habe vor vielen Jahren aus dem Lehrbuch " Introduction to Data Mining " von Tan, Steinbach und Kumar (2006) etwas über …

9 machine-learning classification svm data-mining loss-functions

2

Ist es beim maschinellen Lernen besser, die Klassenverhältnisse ausgewogen oder repräsentativ für die Bevölkerung zu haben?

Nehmen wir im Zusammenhang mit maschinellem Lernen an, Sie haben ein Problem, bei dem Klassen in der realen Bevölkerung nicht ausgewogen sind - z. B. tritt Klasse A in 80% der Fälle und Klasse B in 20% der Fälle auf. Ist es in einem solchen Fall im Allgemeinen besser, wenn …

9 machine-learning unbalanced-classes

1

Wie kann man eine Überanpassung im Faltungs-Neuronalen Netz identifizieren?

Ich verstehe, dass Dropout verwendet wird, um Überanpassungen im Netzwerk zu reduzieren. Dies ist eine Verallgemeinerungstechnik. Wie kann ich im Faltungsnetzwerk eine Überanpassung erkennen? Eine Situation, an die ich denken kann, ist, wenn die Trainingsgenauigkeit im Vergleich zur Test- oder Validierungsgenauigkeit zu hoch ist. In diesem Fall versucht das Modell, …

9 machine-learning overfitting conv-neural-network dropout

1

Additive Verzerrung in xgboost (und deren Korrektur?)

Ich nehme gerade an einem Wettbewerb teil. Ich weiß, dass es meine Aufgabe ist, das gut zu machen, aber vielleicht möchte jemand mein Problem und seine Lösung hier diskutieren, da dies auch für andere auf ihrem Gebiet hilfreich sein könnte. Ich habe ein xgboost-Modell trainiert (ein baumbasiertes Modell und ein …

9 machine-learning boosting overfitting bias-correction

1

Wie viel ist zu viel Überanpassung?

Wo ziehen Sie konzeptionell die Grenze zwischen einem Überanpassungsmodell und einem Modell mit angemessener Anpassung? Es ist klar, dass Sie überanpassen, wenn Ihr Modell auf Ihrem Trainingssatz ein paar Prozent besser abschneidet als auf Ihrem Testsatz. Angenommen, ich habe theoretisch ein Modell auf einem Trainingssatz trainiert, dann auf einem Testsatz …

9 machine-learning model overfitting supervised-learning

1

Zufällige Waldregression - Residuen korrelieren mit der Reaktion

Ich versuche, die Random Forest-Regression zu verwenden. Ich habe eine Antwortvariable: y = rnorm(10000, mean=0, sd=3) Und ein paar Prädiktorvariablen (die nur die Antwort mit zusätzlichem Rauschen sind): x = data.frame(v1=y + rnorm(10000, mean=0, sd=3), v2=y + rnorm(10000, mean=0, sd=3), v3=y + rnorm(10000, mean=0, sd=3)) Ich baue den zufälligen Wald: …

9 r regression machine-learning random-forest ensemble

2

Führen Entscheidungsbäume eine Aufteilung von Knoten durch, indem sie in der Praxis kategoriale Werte in numerische Werte konvertieren?

Verwenden wir in Entscheidungsbäumen bei der Klassifizierung oder Regression nur numerische Werte? Angenommen, ich habe eine kategoriale Spalte Windals Feature. Angenommen , ich habe am 5 Zeilen (Beobachtungen) und die Werte für Windsind [ high, low, high, medium, medium]. Kann ich diese kategorialen Daten in einen Entscheidungsbaumklassifikator (wie scikit-learn) einspeisen, …

9 machine-learning categorical-data random-forest cart many-categories

1

Unterschied zwischen Naive Bayes und Recurrent Neural Network (LSTM)

Ich möchte eine Stimmungsanalyse für Text durchführen, habe mehrere Artikel durchgesehen, einige verwenden "Naive Bayes" und andere sind "Recurrent Neural Network (LSTM)" , andererseits habe ich eine Python-Bibliothek für die Stimmungsanalyse gesehen, die ist nltk. Es verwendet "Naive Bayes". Kann jemand erklären, was der Unterschied zwischen der Verwendung der beiden …

8 machine-learning neural-networks python natural-language

3

Was ist der Zweck der Verwendung eines Entscheidungsbaums?

Ich verstehe nicht, was der Zweck des Entscheidungsbaums ist. So wie ich es sehe, ist es eine Reihe von Wenn-Sonst. Warum verwende ich nicht einfach if-else anstelle eines Entscheidungsbaums? Liegt es daran, dass es die Komplexität meines Codes verringert? Ich werde immer noch von der Berechnung der Entropie und des …

8 machine-learning

3

Absichtliche Überanpassung

Wäre es sinnvoll, ein Modell absichtlich zu überpassen? Angenommen, ich habe einen Anwendungsfall, bei dem ich weiß, dass die Daten in Bezug auf die Trainingsdaten nicht wesentlich variieren. Ich denke hier an die Verkehrsvorhersage, bei der der Verkehrsstatus einem festen Satz von Mustern folgt Morgen pendeln Nachtaktivität und so weiter. …

8 machine-learning time-series forecasting prediction overfitting

2

Ein Beispiel für die Verwendung der Genauigkeit als Ergebnismaß führt zu einer falschen Schlussfolgerung

Ich untersuche verschiedene Leistungsmessungen für Vorhersagemodelle. Es wurde viel über Probleme bei der Verwendung von Genauigkeit geschrieben, anstatt über etwas Kontinuierlicheres, um die Modellleistung zu bewerten. Frank Harrell http://www.fharrell.com/post/class-damage/ liefert ein Beispiel, wenn das Hinzufügen einer informativen Variablen zu einem Modell zu einem Rückgang der Genauigkeit, einer eindeutig eingängigen und …

8 machine-learning predictive-models accuracy

3

Kann die 'Bin-Größe' in einem Histogramm als Regelmäßigkeitsbeschränkung angesehen werden?

Wenn Sie sich ein Histogramm als Schätzung der Dichtefunktion vorstellen, ist es sinnvoll, sich die Behältergröße als einen Parameter vorzustellen, der die lokale Struktur dieser Funktion einschränkt? Gibt es auch eine bessere Möglichkeit, diese Argumentation zu artikulieren?

8 machine-learning distributions regularization histogram binning

2

Ist eine geringe Verzerrung in einer Stichprobe ein Synonym für eine hohe Varianz?

Ist das Folgende wahr? niedrige Vorspannung = hohe Varianz hohe Vorspannung = niedrige Varianz Ich verstehe hohe und niedrige Vorurteile, aber wie unterscheidet sich die Varianz? Oder sind die oben genannten Synonyme?

8 machine-learning neural-networks variance sampling bias

Als «machine-learning» getaggte Fragen