Statistiken und Big Data

5

In einer Normalverteilung haben wir also zwei Parameter: mean und varance . Im Buch Mustererkennung und maschinelles Lernen taucht plötzlich ein Hyperparameter in den Regularisierungsbegriffen der Fehlerfunktion auf.μμ\muσ2σ2\sigma^2λλ\lambda Was sind Hyperparameter? Warum heißen sie so? Und wie unterscheiden sie sich intuitiv von Parametern im Allgemeinen?

19 terminology definition parameterization hyperparameter

2

Kann Regularisierung hilfreich sein, wenn wir nur an der Modellierung und nicht an der Vorhersage interessiert sind?

Kann Regularisierung hilfreich sein, wenn wir nur die Modellparameter schätzen (und interpretieren) möchten, nicht aber Prognosen oder Vorhersagen? Ich sehe, wie nützlich Regularisierung / Kreuzvalidierung ist, wenn Sie gute Prognosen für neue Daten erstellen möchten. Aber was ist, wenn Sie traditionelle Wirtschaftswissenschaften betreiben und sich nur für die Schätzung von …

19 cross-validation econometrics model-selection interpretation regularization

1

Antonym der Varianz

Gibt es ein Wort, das die Umkehrung der Varianz bedeutet? Das heißt, wenn eine hohe Varianz hat, dann hat X eine niedrige ... ? Kein Interesse an einem Beinahe-Antonym (wie 'Übereinstimmung' oder 'Ähnlichkeit'), sondern spezifisch 1 / σ 2 ?XXXXXX……\dots1/σ21/σ21/\sigma^2

19 bayesian variance terminology precision

3

Was sollte zuerst gelehrt werden: Wahrscheinlichkeit oder Statistik?

Ich bin neu als Fakultätsmitglied in einer mathematischen Abteilung eingestiegen. einer renommierten Institution. Ich werde den Kurs Wahrscheinlichkeitsrechnung und Statistik im Grundstudium unterrichten. Die Institution hat bereits einen Lehrplan für diesen Kurs, mit dem ich nicht sehr zufrieden bin. In diesem Lehrplan wird zuerst die Statistik behandelt, außerdem fehlt ein …

19 teaching

3

Warum ist Skip-Gram besser für seltene Wörter als CBOW?

Ich frage mich, warum Überspringen-Gramm für seltene Wörter besser ist als CBOW in word2vec. Ich habe die Behauptung unter https://code.google.com/p/word2vec/ gelesen .

19 natural-language word2vec word-embeddings

2

Warum wird die Maximum-Likelihood-Schätzung als häufigste Technik angesehen?

Frequentistische Statistiken sind für mich gleichbedeutend mit dem Versuch, Entscheidungen zu treffen, die für alle möglichen Stichproben gut sind. Dh eine frequentistische Entscheidungsregel sollte immer versuchen, das frequentistische Risiko zu minimieren, das von einer Verlustfunktion und dem wahren Naturzustand \ theta_0 abhängt :Lδδ\deltaLLLθ0θ0\theta_0 Rfreq=Eθ0(L(θ0,δ(Y))Rfreq=Eθ0(L(θ0,δ(Y))R_\mathrm{freq}=\mathbb{E}_{\theta_0}(L(\theta_0,\delta(Y)) Wie hängt die maximale Wahrscheinlichkeitsschätzung mit …

19 maximum-likelihood frequentist

5

Welche Datensätze eignen sich zum Erlernen grundlegender Algorithmen für maschinelles Lernen und warum?

Ich bin neu im maschinellen Lernen und suche nach Datensätzen, mit denen ich die Unterschiede zwischen verschiedenen Algorithmen für maschinelles Lernen (Decision Trees, Boosting, SVM und Neuronale Netze) vergleichen und gegenüberstellen kann. Wo finde ich solche Datensätze? Wonach sollte ich suchen, wenn ich einen Datensatz in Betracht ziehe? Es wäre …

19 machine-learning dataset

2

Welche Optimierungsmethoden eignen sich am besten für LSTMs?

Ich habe theano zum Experimentieren mit LSTMs verwendet und mich gefragt, welche Optimierungsmethoden (SGD, Adagrad, Adadelta, RMSprop, Adam usw.) für LSTMs am besten funktionieren. Gibt es Forschungsarbeiten zu diesem Thema? Hängt die Antwort auch von der Art der Anwendung ab, für die ich das LSTM verwende? In diesem Fall verwende …

19 machine-learning neural-networks optimization lstm

8

Warum ist Varianz nicht definiert als der Unterschied zwischen jedem Wert, der aufeinander folgt?

Dies mag für viele eine einfache Frage sein, aber hier ist sie: Warum wird Varianz nicht als Differenz zwischen den aufeinander folgenden Werten definiert, anstatt als Differenz zum Durchschnitt der Werte? Dies wäre die logischere Wahl für mich, ich schätze, ich habe offensichtlich einige Nachteile. Vielen Dank BEARBEITEN: Lassen Sie …

19 variance

1

Wie LDA, eine Klassifikationstechnik, auch als Dimensionsreduktionstechnik wie PCA dient

In diesem Artikel verknüpft der Autor die lineare Diskriminanzanalyse (LDA) mit der Hauptkomponentenanalyse (PCA). Mit meinen begrenzten Kenntnissen kann ich nicht nachvollziehen, wie LDA PCA ähneln kann. Ich habe immer gedacht, dass LDA eine Art Klassifizierungsalgorithmus ist, ähnlich der logistischen Regression. Ich würde mich über eine Hilfe freuen, um zu …

19 classification pca dimensionality-reduction discriminant-analysis canonical-correlation

2

Boosting: Warum wird die Lernrate als Regularisierungsparameter bezeichnet?

Der Lernratenparameter ( ) in Gradient Boosting verringert den Beitrag jedes neuen Basismodells - normalerweise eines flachen Baums -, das in der Reihe hinzugefügt wird. Es hat sich gezeigt, dass die Genauigkeit des Testsatzes drastisch erhöht wird, was verständlich ist, da mit kleineren Schritten das Minimum der Verlustfunktion genauer erreicht …

19 machine-learning data-mining predictive-models boosting overfitting

1

Verwendung von Kreisprädiktoren in der linearen Regression

Ich versuche, ein Modell unter Verwendung von Winddaten (0, 359) und Tageszeit (0, 23) anzupassen, befürchte jedoch, dass sie schlecht in eine lineare Regression passen, da sie selbst keine linearen Parameter sind. Ich möchte sie mit Python transformieren. Ich habe einige Erwähnungen gesehen, wie man einen Vektormittelwert berechnet, indem man …

19 regression python circular-statistics

3

Verwendung von RNN (LSTM) zur Vorhersage der Zeitreihenvektoren (Theano)

Ich habe ein sehr einfaches Problem, aber ich kann kein passendes Werkzeug finden, um es zu lösen. Ich habe eine Folge von Vektoren gleicher Länge. Jetzt möchte ich LSTM RNN auf dem Zugmuster dieser Sequenzen trainieren und es dann machen, um eine neue Sequenz von Vektoren der Länge basierend auf …

19 neural-networks python lstm

3

Julia: Bilanz ziehen, wie es gelaufen ist

Dieser Beitrag bezieht sich auf ein sich schnell änderndes Ereignis. Ich bin auf eine Frage aus dem Jahr 2012 gestoßen, die eine sehr gute Diskussion über Julia als Alternative zu R / Python für verschiedene Arten von statistischer Arbeit hatte. Hier liegt die ursprüngliche Frage von 2012 über Julias Versprechen …

19 r python computing julia

3

Bedeutung des Bias-Knotens in neuronalen Netzen

Ich bin gespannt, wie wichtig der Bias-Knoten für die Wirksamkeit moderner neuronaler Netze ist. Ich kann leicht verstehen, dass es in einem flachen Netzwerk mit nur wenigen Eingabevariablen wichtig sein kann. Moderne neuronale Netze wie das Deep Learning verfügen jedoch häufig über eine große Anzahl von Eingabevariablen, um zu entscheiden, …

19 neural-networks deep-learning bias-node