Statistiken und Big Data machine-learning

1

Diskussion über Überanpassung in xgboost

Mein Setup ist wie folgt: Ich folge den Richtlinien in "Applied Predictive Modeling". Daher habe ich korrelierte Merkmale gefiltert und erhalte am Ende Folgendes: 4900 Datenpunkte im Trainingssatz und 1600 Datenpunkte im Testsatz. Ich habe 26 Funktionen und das Ziel ist eine kontinuierliche Variable. Ich wende eine 5-fache Kreuzvalidierung an, …

20 machine-learning boosting overfitting

1

Wie funktioniert die negative Abtastung in word2vec?

Ich habe mich bemüht, das Konzept der negativen Abtastung im Kontext von word2vec zu verstehen. Ich bin nicht in der Lage, die Idee der [negativen] Probenahme zu verdauen. Zum Beispiel wird in Mikolovs Arbeiten die negative Stichprobenerwartung wie folgt formuliert Logσ( ⟨ W , c ⟩ ) + k ⋅ …

19 machine-learning word2vec word-embeddings

3

Ist ein Entscheidungsstumpf ein lineares Modell?

Entscheidungsstumpf ist ein Entscheidungsbaum mit nur einer Teilung. Es kann auch als stückweise Funktion geschrieben werden. Angenommen, ist ein Vektor und ist die erste Komponente von . Bei der Regressionseinstellung kann es sich um einen Entscheidungsstumpf handelnx 1 xxxxx1x1x_1xxx f( x ) = { 35x1≤ 2x1> 2f(x)={3x1≤25x1>2f(x)= \begin{cases} 3& x_1\leq …

19 machine-learning cart linear boosting

5

Welche Datensätze eignen sich zum Erlernen grundlegender Algorithmen für maschinelles Lernen und warum?

Ich bin neu im maschinellen Lernen und suche nach Datensätzen, mit denen ich die Unterschiede zwischen verschiedenen Algorithmen für maschinelles Lernen (Decision Trees, Boosting, SVM und Neuronale Netze) vergleichen und gegenüberstellen kann. Wo finde ich solche Datensätze? Wonach sollte ich suchen, wenn ich einen Datensatz in Betracht ziehe? Es wäre …

19 machine-learning dataset

2

Welche Optimierungsmethoden eignen sich am besten für LSTMs?

Ich habe theano zum Experimentieren mit LSTMs verwendet und mich gefragt, welche Optimierungsmethoden (SGD, Adagrad, Adadelta, RMSprop, Adam usw.) für LSTMs am besten funktionieren. Gibt es Forschungsarbeiten zu diesem Thema? Hängt die Antwort auch von der Art der Anwendung ab, für die ich das LSTM verwende? In diesem Fall verwende …

19 machine-learning neural-networks optimization lstm

2

Boosting: Warum wird die Lernrate als Regularisierungsparameter bezeichnet?

Der Lernratenparameter ( ) in Gradient Boosting verringert den Beitrag jedes neuen Basismodells - normalerweise eines flachen Baums -, das in der Reihe hinzugefügt wird. Es hat sich gezeigt, dass die Genauigkeit des Testsatzes drastisch erhöht wird, was verständlich ist, da mit kleineren Schritten das Minimum der Verlustfunktion genauer erreicht …

19 machine-learning data-mining predictive-models boosting overfitting

2

Wie können wiederkehrende neuronale Netze zur Sequenzklassifizierung verwendet werden?

RNN kann zur Vorhersage oder Sequenz-zu-Sequenz-Zuordnung verwendet werden. Aber wie kann RNN zur Klassifizierung verwendet werden? Ich meine, wir geben einer ganzen Sequenz ein Etikett.

19 machine-learning neural-networks rnn

2

Was bedeutet der Name "Logistische Regression"?

Von hier aus überprüfe ich eine Implementierung von Logistic Regression . Nachdem ich diesen Artikel gelesen habe, scheint es wichtig zu sein, die besten Koeffizienten für die Bestimmung der Sigmoidfunktion zu finden. Ich frage mich nur, warum diese Methode "Logistische Regression" heißt. Hängt es mit der logarithmischen Funktion zusammen? Vielleicht …

19 regression machine-learning logistic

6

Programmierer, der in das Feld des maschinellen Lernens einbrechen möchte

Ich bin ein Softwareentwickler (meistens .NET und Python, ungefähr 5 Jahre Erfahrung). Was kann ich tun, um einen Job im Bereich des maschinellen Lernens zu finden, oder was kann ich in diesem Bereich anfangen? Ist ein Aufbaustudium eine harte Voraussetzung?

19 machine-learning data-mining careers

1

Predictive Modeling - Sollten wir uns für gemischte Modelle interessieren?

Müssen wir uns für die prädiktive Modellierung mit statistischen Konzepten wie zufälligen Effekten und der Nichtunabhängigkeit von Beobachtungen (wiederholte Messungen) befassen? Beispielsweise.... Ich habe Daten aus 5 Direktmailing-Kampagnen (die im Laufe eines Jahres durchgeführt wurden) mit verschiedenen Attributen und einer Kaufmarkierung. Idealerweise würde ich all diese Daten zusammen verwenden, um …

19 machine-learning predictive-models repeated-measures assumptions

2

Berechnen der Entscheidungsgrenze eines linearen SVM-Modells

Wie kann ich angesichts der Unterstützungsvektoren einer linearen SVM die Gleichung der Entscheidungsgrenze berechnen?

19 machine-learning svm

2

Wann ist „Nächster Nachbar“ heute sinnvoll?

1999 stellten Beyer et al. gefragt, wann ist "Nächster Nachbar" sinnvoll? Gibt es seit 1999 bessere Möglichkeiten zur Analyse und Visualisierung der Auswirkung der Abstandsflachheit auf die NN-Suche? Bietet [ein gegebener] Datensatz aussagekräftige Antworten auf das 1-NN-Problem? Das 10-NN-Problem? Das 100-NN-Problem? Wie würden Sie Experten diese Frage heute angehen? Änderungen …

19 machine-learning k-nearest-neighbour

6

Was ist die Grundidee des maschinellen Lernens zum Schätzen von Parametern?

Die Grundidee der Statistik zur Schätzung von Parametern ist die maximale Wahrscheinlichkeit . Ich frage mich, was der entsprechende Gedanke beim maschinellen Lernen ist. Frage 1: Wäre es fair zu sagen, dass die Grundidee des maschinellen Lernens zur Schätzung von Parametern lautet: "Verlustfunktionen"? [Anmerkung: Ich habe den Eindruck, dass Algorithmen …

19 machine-learning maximum-likelihood loss-functions pac-learning

6

Ist die Optimierung von Hyperparametern für eine Stichprobe eines Datensatzes eine schlechte Idee?

Ich habe einen Datensatz mit 140000 Beispielen und 30 Funktionen, für die ich mehrere Klassifikatoren für eine binäre Klassifizierung trainiere (SVM, Logistic Regression, Random Forest usw.). In vielen Fällen ist die Optimierung von Hyperparametern für den gesamten Datensatz mithilfe der Raster- oder Zufallssuche zeitlich zu kostspielig. Ich begann mit der …

19 machine-learning cross-validation hyperparameter

11

Warum wird logistische Regression als Algorithmus für maschinelles Lernen bezeichnet?

Wenn ich in einem maschinellen Lernalgorithmus richtig verstanden habe, muss das Modell aus seiner Erfahrung lernen, dh wenn das Modell die falsche Vorhersage für die neuen Fälle liefert, muss es sich an die neuen Beobachtungen anpassen und mit der Zeit wird das Modell immer besser . Ich sehe nicht, dass …

19 machine-learning logistic random-forest

Als «machine-learning» getaggte Fragen