Statistiken und Big Data machine-learning

4

Wie wählt man die Anzahl der Bäume in einem verallgemeinerten verstärkten Regressionsmodell?

Gibt es eine Strategie zur Auswahl der Anzahl der Bäume in einem GBM? Insbesondere das ntreesArgument in Rder gbmFunktion. Ich verstehe nicht, warum Sie nicht ntreesden höchsten vernünftigen Wert einstellen sollten . Ich habe festgestellt, dass eine größere Anzahl von Bäumen die Variabilität der Ergebnisse mehrerer GBMs deutlich verringert. Ich …

11 r machine-learning gbm

5

Mathematischer Hintergrund für neuronale Netze

Ich bin mir nicht sicher, ob dies für diese Site geeignet ist, aber ich beginne mein MSE in Informatik (BS in angewandter Mathematik) und möchte einen starken Hintergrund im maschinellen Lernen haben (ich werde höchstwahrscheinlich promovieren). Eines meiner Unterinteressen sind neuronale Netze. Was ist ein guter mathematischer Hintergrund für ANNs? …

11 machine-learning neural-networks mathematical-statistics references

2

Klassifikatoren anhand von AUROC oder Genauigkeit vergleichen?

Ich habe ein Problem mit der binären Klassifizierung und experimentiere mit verschiedenen Klassifizierern: Ich möchte die Klassifizierer vergleichen. Welches ist ein besseres Maß für die AUC oder Genauigkeit? Und warum? Raondom Forest: AUC: 0.828 Accuracy: 79.6667 % SVM: AUC: 0.542 Accuracy: 85.6667 %

11 machine-learning classification auc

2

Gibt es eine Überanpassung bei diesem Modellierungsansatz?

Mir wurde kürzlich gesagt, dass der Prozess, dem ich folgte (Bestandteil einer MS-Arbeit), als überpassend angesehen werden könnte. Ich versuche, dies besser zu verstehen und zu sehen, ob andere zustimmen. Das Ziel dieses Teils des Papiers ist es, Vergleichen Sie die Leistung von Gradientenverstärkten Regressionsbäumen mit zufälligen Wäldern in einem …

11 machine-learning data-mining predictive-models

1

Kovarianzmatrix für die Gaußsche Prozess- und Wishart-Verteilung

Ich lese dieses Papier über generalisierte Wishart-Prozesse (GWP) durch. Die Arbeit berechnet die Kovarianzen zwischen verschiedenen Zufallsvariablen (nach dem Gaußschen Prozess ) unter Verwendung der quadratischen exponentiellen Kovarianzfunktion, dh . Es heißt dann, dass diese Kovarianzmatrix GWP folgt.K(x,x′)=exp(−|(x−x′)|22l2)K(x,x′)=exp⁡(−|(x−x′)|22l2)K(x,x') = \exp\left(-\frac{|(x-x')|^2}{2l^2}\right) Früher dachte ich, dass eine Kovarianzmatrix, die aus der linearen …

11 machine-learning normal-distribution covariance wishart nonparametric-bayes

1

Wie können Sie feststellen, ob ein Gaußscher Prozess überpasst?

Ich trainiere einen Gaußschen Prozess mit einem ARD-Kernel mit vielen Parametern, indem ich die marginale Lielihood der Daten maximiere, anstatt sie gegenseitig zu validieren. Ich vermute, dass es überpassend ist. Wie kann ich diesen Verdacht in einem Bayes'schen Kontext testen?

11 machine-learning cross-validation gaussian-process

3

Bedeutung von Variablen für die logistische Regression

Ich habe es wahrscheinlich mit einem Problem zu tun, das wahrscheinlich schon hundert Mal gelöst wurde, aber ich bin mir nicht sicher, wo ich die Antwort finden kann. Bei Verwendung der logistischen Regression werden bei vielen Funktionen und versuchen , einen binären kategorischen Wert vorherzusagen , y , ich bin …

11 machine-learning logistic classification

2

Messungen der Klassentrennbarkeit bei Klassifizierungsproblemen

Ein Beispiel für ein gutes Maß für die Klassentrennbarkeit bei Lernenden mit linearer Diskriminanz ist das lineare Diskriminanzverhältnis von Fisher. Gibt es andere nützliche Metriken, um festzustellen, ob Feature-Sets eine gute Klassentrennung zwischen Zielvariablen bieten? Insbesondere bin ich daran interessiert, gute multivariate Eingabeattribute zur Maximierung der Zielklassentrennung zu finden, und …

11 machine-learning classification feature-selection discriminant-analysis

2

Was ist Mahalanobis Abstand und wie wird er bei der Mustererkennung verwendet?

Kann mir jemand das Konzept der Mahalanobis-Distanz erklären? Wie groß ist beispielsweise der Mahalanobis-Abstand zwischen zwei Punkten x und y und wie wird er insbesondere für die Mustererkennung interpretiert?

11 machine-learning mathematical-statistics distance-functions

2

Was ist der Vorteil der Reduzierung der Dimensionalität von Prädiktoren zum Zwecke der Regression?

Was sind die Anwendungen oder Vorteile der Dimensionsreduktion Regression (DRR) oder beaufsichtigten Dimensionsreduktion (SDR) Techniken gegenüber herkömmlichen Regressionstechniken (ohne Dimensionsreduktion)? Diese Klasse von Techniken findet eine niedrigdimensionale Darstellung des Merkmalssatzes für das Regressionsproblem. Beispiele für solche Techniken umfassen in Scheiben geschnittene inverse Regression, Haupt-Hessische Richtungen, Geschnittene durchschnittliche Varianzschätzung, Kernel-Schnitt-Inverse-Regression, Hauptkomponenten-Regression …

11 regression machine-learning pca dimensionality-reduction

3

Tasche der Wörter gegen Vektorraummodell?

Was ist / sind die Unterschiede zwischen diesen Textdarstellungsmodellen: Wortsack und Vektorraummodell?

11 machine-learning text-mining

2

Was ist die Drosophila der KI jetzt?

Mitte der 1960er Jahre haben Forscher das Schach bekanntlich als " Drosophila der KI" bezeichnet: Wie die Fruchtfliege war das Schachspiel zugänglich und ein relativ einfaches Problem, mit dem experimentiert werden konnte, was jedoch wichtige Kenntnisse und komplexere Probleme hervorbrachte. Nun scheinen die Leute zu sagen "Schach ist nur ein …

11 machine-learning

1

Erweiterung von 2-Klassen-Modellen auf Mehrklassenprobleme

Dieses Dokument zu Adaboost enthält einige Vorschläge und Codes (Seite 17) für die Erweiterung von 2-Klassen-Modellen auf Probleme der K-Klasse. Ich möchte diesen Code so verallgemeinern, dass ich problemlos verschiedene 2-Klassen-Modelle anschließen und die Ergebnisse vergleichen kann. Da die meisten Klassifizierungsmodelle über eine Formelschnittstelle und eine predictMethode verfügen, sollte ein …

11 r machine-learning classification statistical-learning multi-class

4

Gibt es Fälle, in denen es in k-means kein optimales k gibt?

Das ist mir seit mindestens ein paar Stunden in den Sinn gekommen. Ich habe versucht, ein optimales k für die Ausgabe des k-means-Algorithmus (mit einer Kosinus-Ähnlichkeitsmetrik ) zu finden, also habe ich die Verzerrung als Funktion der Anzahl der Cluster aufgetragen. Mein Datensatz ist eine Sammlung von 800 Dokumenten in …

11 machine-learning clustering k-means

3

Gibt es Bibliotheken für CART-ähnliche Methoden, die spärliche Prädiktoren und Antworten verwenden?

Ich arbeite mit einigen großen Datenmengen unter Verwendung des gbm-Pakets in R. Sowohl meine Prädiktormatrix als auch mein Antwortvektor sind ziemlich spärlich (dh die meisten Einträge sind Null). Ich hatte gehofft, Entscheidungsbäume mit einem Algorithmus zu erstellen, der diese Spärlichkeit ausnutzt, wie hier ). In diesem Artikel haben, wie in …

11 r regression machine-learning classification cart

Als «machine-learning» getaggte Fragen