Statistiken und Big Data machine-learning

1

Wie viele andere fand ich die Ressourcen hier und hier äußerst nützlich für das Verständnis von LSTM-Zellen. Ich bin zuversichtlich, dass ich verstehe, wie Werte fließen und aktualisiert werden, und ich bin zuversichtlich, dass ich auch die genannten "Gucklochverbindungen" usw. hinzufügen kann. In meinem Beispiel habe ich zu jedem Zeitpunkt …

9 machine-learning neural-networks lstm rnn

2

Anwendung der stochastischen Variationsinferenz auf die Bayes'sche Mischung von Gauß'sch

Ich versuche , Gaussian Mixture Modell mit stochastischen Variations Inferenz zu implementieren, nach diesem Papier . Dies ist die pgm der Gaußschen Mischung. Dem Artikel zufolge ist der vollständige Algorithmus der stochastischen Variationsinferenz: Und ich bin immer noch sehr verwirrt über die Methode, sie auf GMM zu skalieren. Zuerst dachte …

9 machine-learning bayesian clustering gaussian-mixture variational-bayes

2

Ist es tatsächlich in Ordnung, vor der Kreuzvalidierung eine unbeaufsichtigte Funktionsauswahl durchzuführen?

In den Elementen des statistischen Lernens habe ich die folgende Aussage gefunden: Es gibt eine Einschränkung: Erste unbeaufsichtigte Screening-Schritte können durchgeführt werden, bevor die Proben weggelassen werden. Zum Beispiel könnten wir die 1000 Prädiktoren mit der höchsten Varianz über alle 50 Stichproben auswählen, bevor wir mit der Kreuzvalidierung beginnen. Da …

9 machine-learning cross-validation feature-selection

2

Sollten wir immer einen Lebenslauf machen?

Meine Frage: Soll ich auch für einen relativ großen Datensatz einen Lebenslauf machen? Ich habe einen relativ großen Datensatz und werde einen Algorithmus für maschinelles Lernen auf den Datensatz anwenden. Da mein PC nicht schnell ist, dauert der Lebenslauf (und die Rastersuche) manchmal zu lange. Insbesondere endet eine SVM nie …

9 machine-learning cross-validation

1

Kann jemand aus Hasties ESL-Buch erklären, dass ich 5 Jahre alt bin?

Ich arbeite an Hasties ESL-Buch und habe es mit Frage 2.3 schwer. Die Frage lautet wie folgt: Wir betrachten eine Schätzung des nächsten Nachbarn am Ursprung, und der mittlere Abstand vom Ursprung zum nächsten Datenpunkt wird durch diese Gleichung angegeben. Ich habe keine Ahnung, wo ich anfangen soll, um dies …

9 machine-learning computational-statistics

6

Ich möchte etwas über Wahrscheinlichkeitstheorie, Messtheorie und schließlich maschinelles Lernen lernen. Wo soll ich anfangen? [geschlossen]

Geschlossen . Diese Frage muss fokussierter sein . Derzeit werden keine Antworten akzeptiert. Möchten Sie diese Frage verbessern? Aktualisieren Sie die Frage so, dass sie sich nur auf ein Problem konzentriert, indem Sie diesen Beitrag bearbeiten . Geschlossen vor 3 Jahren . Ich möchte etwas über Wahrscheinlichkeitstheorie, Messtheorie und schließlich …

9 machine-learning probability references measure-theory

1

Wie arbeitet der lineare Basislerner beim Boosten? Und wie funktioniert es in der xgboost-Bibliothek?

Ich weiß, wie man lineare Zielfunktionen und lineare Boosts in XGBoost implementiert. Meine konkrete Frage lautet: Wenn der Algorithmus zum Residuum (oder zum negativen Gradienten) passt, verwendet er bei jedem Schritt ein Merkmal (dh ein univariates Modell) oder alle Merkmale (multivariates Modell)? Jeder Verweis auf die Dokumentation zu den linearen …

9 regression machine-learning boosting xgboost

1

Wie effizient ist Q-Learning mit neuronalen Netzen, wenn pro Aktion eine Ausgabeeinheit vorhanden ist?

Hintergrund: Ich verwende in meiner Lernaufgabe zur Verstärkung die Q-Wert-Näherung des neuronalen Netzwerks. Der Ansatz ist genau der gleiche wie der in dieser Frage beschriebene , jedoch ist die Frage selbst anders. Bei diesem Ansatz ist die Anzahl der Ausgaben die Anzahl der Aktionen, die wir ausführen können. In einfachen …

9 machine-learning neural-networks reinforcement-learning q-learning

4

Warum ist ein Gefälle erforderlich?

Wenn wir die Kostenfunktion differenzieren und Parameter finden können, indem wir Gleichungen lösen, die durch partielle Differenzierung in Bezug auf jeden Parameter erhalten wurden, und herausfinden, wo die Kostenfunktion minimal ist. Ich denke auch, dass es möglich ist, mehrere Orte zu finden, an denen die Ableitungen Null sind, wodurch wir …

9 machine-learning computational-statistics

1

Wie viele Daten für Deep Learning?

Ich lerne über Deep Learning (insbesondere CNNs) und wie es normalerweise sehr viele Daten erfordert, um eine Überanpassung zu verhindern. Mir wurde jedoch auch gesagt, dass je höher die Kapazität / mehr Parameter eines Modells sind, desto mehr Daten erforderlich sind, um eine Überanpassung zu verhindern. Daher lautet meine Frage: …

9 machine-learning neural-networks deep-learning conv-neural-network

2

Vorhersage des Vertrauens eines neuronalen Netzwerks

Angenommen, ich möchte ein tiefes neuronales Netzwerk trainieren, um eine Klassifizierung oder Regression durchzuführen, aber ich möchte wissen, wie sicher die Vorhersage sein wird. Wie könnte ich das erreichen? Meine Idee ist es, die Kreuzentropie für jedes Trainingsdatum basierend auf seiner Vorhersageleistung in den darüber liegenden neuronalen Metern zu berechnen. …

9 machine-learning neural-networks

1

Eingangsnormalisierung für ReLU-Neuronen

Nach "Efficient Backprop" von LeCun et al. (1998) ist es empfehlenswert, alle Eingaben so zu normalisieren, dass sie um 0 zentriert sind und im Bereich der maximalen zweiten Ableitung liegen. So würden wir zum Beispiel [-0.5,0.5] für die "Tanh" -Funktion verwenden. Dies soll den Fortschritt der Rückausbreitung unterstützen, wenn der …

9 machine-learning neural-networks normalization deep-learning multidimensional-scaling

2

Der Engpass bei der Anwendung von Deep Learning in der Praxis

Nach dem Lesen vieler Deep-Learning-Artikel besteht eine Art raues Gefühl darin, dass es viele Tricks gibt, das Netzwerk zu trainieren, um eine überdurchschnittliche Leistung zu erzielen. Aus Sicht der Branchenanwendungen ist es sehr schwierig, diese Art von Tricks zu entwickeln, mit Ausnahme der Elite-Forschungsgruppen in großen Technologieunternehmen, z. B. Google …

9 machine-learning deep-learning deep-belief-networks

1

Sind Konturen interessante Merkmale einer Funktion die durch Regression erhalten werden?

Ich von einem allgemeinen Regressionsaufbau aus, einer stetigen Funktion wird aus einer Familie , um den gegebenen Daten ( kann ein beliebiger Raum wie Würfel oder tatsächlich ein vernünftiger topologischer Raum sein) nach einigen natürlichen Kriterien.hθ:X→Rnhθ:X→Rnh_\theta:X\to \mathbb R^n{hθ}θ{hθ}θ\{h_\theta\}_\theta(xi,yi)∈X×Rn,i=1,…,k(xi,yi)∈X×Rn,i=1,…,k(x_i,y_i)\in X\times \mathbb R^n, i=1,\ldots, kXXX[0,1]m[0,1]m[0,1]^m Gibt es Regressionsanwendungen, bei denen man an …

9 regression machine-learning multiple-regression

1

Warum proximaler Gradientenabstieg anstelle einfacher Subgradientenmethoden für Lasso?

Ich dachte daran, Lasso mit Vanille-Subgradienten-Methoden zu lösen. Aber ich habe Leute gelesen, die vorschlagen, den proximalen Gradientenabstieg zu verwenden. Kann jemand hervorheben, warum für Lasso proximale GD anstelle von Vanille-Subgradienten-Methoden verwendet werden?

9 machine-learning optimization lasso gradient-descent

Als «machine-learning» getaggte Fragen