Statistiken und Big Data machine-learning

1

Wie kann man verstehen, dass MLE of Varianz in einer Gaußschen Verteilung voreingenommen ist?

Ich lese PRML und verstehe das Bild nicht. Könnten Sie bitte einige Hinweise geben, um das Bild zu verstehen und warum die MLE der Varianz in einer Gaußschen Verteilung voreingenommen ist? Formel 1,55: Formel 1,56 σ 2 M L E =1μM.L E.= 1N.∑n = 1N.xnμMLE=1N∑n=1Nxn \mu_{MLE}=\frac{1}{N} \sum_{n=1}^N x_n σ2M.L E.= …

12 machine-learning self-study maximum-likelihood

4

Was ist ein Klassifikator?

Ich kann die allgemeine Definition eines Klassifikators nicht finden. Ich verstehe, wie es funktionieren kann, aber ich kann nicht zu einer Definition kommen.

12 machine-learning classification

1

Beziehung zwischen der Hessischen Matrix und der Kovarianzmatrix

Während ich die Maximum-Likelihood-Schätzung studiere, müssen wir die Varianz kennen, um Rückschlüsse auf die Maximum-Likelihood-Schätzung zu ziehen. Um die Varianz herauszufinden, muss ich die untere Grenze des Cramer-Rao kennen, die wie eine hessische Matrix mit zweiter Ableitung auf der Krümmung aussieht. Ich bin irgendwie durcheinander, um die Beziehung zwischen Kovarianzmatrix …

12 machine-learning mathematical-statistics maximum-likelihood data-mining

1

Was bedeutet logarithmische Gleichverteilung?

Wenn jemand sagt, dass Daten aus einer logarithmisch gleichmäßigen Verteilung zwischen 128 und 4000 entnommen werden, was bedeutet das? Wie unterscheidet sich das von einer gleichmäßigen Verteilung? Siehe dieses Dokument: http://www.jmlr.org/papers/volume13/bergstra12a/bergstra12a.pdf Vielen Dank!

12 machine-learning distributions uniform

5

Berechnen der Genauigkeit und des Abrufs in einer 3 x 3-Verwirrungsmatrix

Predicted class Cat Dog Rabbit Actual class Cat 5 3 0 Dog 2 3 1 Rabbit 0 2 11 Wie kann ich Präzision berechnen und abrufen, damit es einfach wird, den F1-Score zu berechnen? Die normale Verwirrungsmatrix ist eine 2 x 2-Dimension. Wenn es jedoch 3 x 3 wird, weiß …

12 machine-learning precision-recall

2

Unterschied zwischen einem LSTM mit einer Einheit und einem neuronalen LSTM-Netzwerk mit drei Einheiten

Das LSTM im folgenden Keras-Code input_t = Input((4, 1)) output_t = LSTM(1)(input_t) model = Model(inputs=input_t, outputs=output_t) print(model.summary()) kann dargestellt werden als Ich verstehe, dass, wenn wir model.predict(np.array([[[1],[2],[3],[4]]]))die (einzige) LSTM-Einheit aufrufen , zuerst der Vektor [1], dann [2] plus die Rückmeldung von der vorherigen Eingabe usw. bis zum Vektor [4] verarbeitet …

12 machine-learning neural-networks lstm keras

3

Bedeutung von "Rekonstruktionsfehler" in PCA und LDA

Ich implementiere PCA, LDA und Naive Bayes für die Komprimierung bzw. Klassifizierung (Implementierung einer LDA für die Komprimierung und Klassifizierung). Ich habe den Code geschrieben und alles funktioniert. Was ich für den Bericht wissen muss, ist die allgemeine Definition des Rekonstruktionsfehlers . Ich kann viel Mathematik finden und in der …

12 machine-learning pca terminology dimensionality-reduction discriminant-analysis

1

Was bedeutet "Vanille"?

In maschinellen Lernblogs begegne ich häufig dem Wort "Vanille". Zum Beispiel "Vanilla Gradient Descent" oder "Vanilla Method". Dieser Begriff wird in Optimierungslehrbüchern buchstäblich nie verwendet. In diesem Beitrag heißt es beispielsweise: Dies ist die einfachste Form der Gradientenabstiegstechnik. Vanille bedeutet hier rein / ohne Verfälschung. Sein Hauptmerkmal ist, dass wir …

12 machine-learning optimization terminology gradient-descent

4

Wahrscheinlichkeitsfreie Folgerung - was bedeutet das?

Vor kurzem bin ich auf "wahrscheinlichkeitsfreie" Methoden aufmerksam geworden, über die in der Literatur geredet wird. Mir ist jedoch nicht klar, was es bedeutet, dass eine Inferenz- oder Optimierungsmethode wahrscheinlichkeitsfrei ist . Beim maschinellen Lernen besteht das Ziel normalerweise darin, die Wahrscheinlichkeit zu maximieren, dass einige Parameter zu einer Funktion …

11 machine-learning deep-learning maximum-likelihood generative-models abc

5

Was genau bedeutet es, Informationen auszuleihen?

Ich spreche oft über das Ausleihen von Informationen oder den Austausch von Informationen in Bayes'schen hierarchischen Modellen. Ich kann anscheinend keine klare Antwort darauf bekommen, was dies tatsächlich bedeutet und ob es nur für Bayes'sche hierarchische Modelle gilt. Ich komme auf die Idee: Einige Ebenen in Ihrer Hierarchie haben einen …

11 machine-learning bayesian multilevel-analysis terminology hierarchical-bayesian

1

Was bedeutet "Variation"?

Bezieht sich die Verwendung von "Variation" immer auf die Optimierung durch Variationsinferenz? Beispiele: "Variations-Auto-Encoder" "Variations-Bayes'sche Methoden" "Variations-Renormierungsgruppe"

11 machine-learning optimization inference

1

RMSProp und Adam gegen SGD

Ich führe Experimente mit dem EMNIST-Validierungssatz unter Verwendung von Netzwerken mit RMSProp, Adam und SGD durch. Ich erreiche eine Genauigkeit von 87% mit SGD (Lernrate von 0,1) und Dropout (0,1 Dropout Prob) sowie L2-Regularisierung (1e-05-Strafe). Wenn ich die gleiche exakte Konfiguration mit RMSProp und Adam sowie die anfängliche Lernrate von …

11 machine-learning optimization sgd adam

4

Künstliche neuronale Netze, die der linearen Regression mit Polynommerkmalen entsprechen?

Ich möchte mein Verständnis der neuronalen Netze und ihrer Vorteile im Vergleich zu anderen Algorithmen für maschinelles Lernen verbessern. Mein Verständnis ist wie folgt und meine Frage ist: Können Sie bitte mein Verständnis korrigieren und ergänzen? :) :) Mein Verständnis: (1) Künstliche neuronale Netze = Eine Funktion, die Ausgabewerte aus …

11 regression machine-learning

3

Wie implementiere ich die L2-Regularisierung in Richtung eines beliebigen Punktes im Raum?

Folgendes habe ich in Ian Goodfellows Buch Deep Learning gelesen . Im Zusammenhang mit neuronalen Netzen "wird die L2-Parameternormstrafe allgemein als Gewichtsabfall bezeichnet. Diese Regularisierungsstrategie bringt die Gewichte näher an den Ursprung [...]. Allgemeiner könnten wir die Parameter so regulieren, dass sie nahe an einem bestimmten Punkt liegen im Raum …

11 machine-learning neural-networks deep-learning regularization

2

Ist die Aufteilung der Daten in Test- und Trainingssätze eine reine Statistiksache?

Ich bin ein Physikstudent, der maschinelles Lernen / Datenwissenschaft studiert, daher meine ich nicht, dass diese Frage Konflikte auslöst :) Ein großer Teil eines Physik-Bachelor-Programms besteht jedoch darin, Labore / Experimente durchzuführen, was eine Menge Daten bedeutet Verarbeitung und statistische Analyse. Ich bemerke jedoch einen starken Unterschied zwischen der Art …

11 regression machine-learning cross-validation dataset experiment-design

Als «machine-learning» getaggte Fragen