Statistiken und Big Data

3

Führen Sie eine lineare Regression durch, erzwingen Sie jedoch, dass die Lösung bestimmte Datenpunkte durchläuft

Ich weiß, wie man eine lineare Regression auf einer Menge von Punkten durchführt. Das heißt, ich kann ein Polynom meiner Wahl an einen gegebenen Datensatz anpassen (im LSE-Sinne). Was ich jedoch nicht weiß, ist, wie ich meine Lösung zwingen kann, bestimmte Punkte meiner Wahl durchzugehen. Ich habe dies schon einmal …

13 regression machine-learning least-squares linear-model polynomial

1

Differenzielle Entropie

Die Differentialentropie des Gaußschen RV beträgt log2(σ2πe−−−√)log2⁡(σ2πe)\log_2(\sigma \sqrt{2\pi e}). Dies ist abhängig vonσσ\sigma, der Standardabweichung. Wenn wir die Zufallsvariable so normalisieren, dass sie eine Einheitsvarianz aufweist, fällt ihre Differentialentropie ab. Für mich ist dies kontraintuitiv, da die Komplexität der Kolmogorov-Normalisierungskonstante im Vergleich zur Verringerung der Entropie sehr gering sein sollte. …

13 information-theory entropy randomness

2

Bedingte Erwartung einer exponentiellen Zufallsvariablen

Für eine Zufallsvariable ist X∼Exp(λ)X∼Exp(λ)X\sim \text{Exp}(\lambda) ( E[X]=1λE[X]=1λ\mathbb{E}[X] = \frac{1}{\lambda} ) Ich fühle intuitiv, dassE[X|X>x]E[X|X>x]\mathbb{E}[X|X > x]sollte gleichx+E[X]x+E[X]x + \mathbb{E}[X]da durch die memorylose Eigenschaft die Verteilung vonX|X>xX|X>xX|X > xist dasselbe wieXXXjedoch umnach rechts verschobenxxx. Ich bemühe mich jedoch, die memorylose Eigenschaft zu verwenden, um einen konkreten Beweis zu liefern. Jede …

13 random-variable exponential conditional-expectation

3

Eingeschränkte Boltzmann-Maschinen für die Regression?

Ich gehe der Frage nach, die ich zuvor zu RBM gestellt hatte . Ich sehe eine Menge Literatur, die sie beschreibt, aber keine, die tatsächlich von Regression spricht (nicht einmal Klassifizierung mit beschrifteten Daten). Ich habe das Gefühl, dass es nur für unbeschriftete Daten verwendet wird. Gibt es Ressourcen für …

13 regression machine-learning classification neural-networks

3

Nicht negative Lasso-Implementierung in R

Ich suche Open Source oder eine vorhandene Bibliothek, die ich nutzen kann. Soweit ich weiß, ist das glmnet-Paket nicht sehr einfach zu erweitern, um den nicht negativen Fall abzudecken. Ich kann mich irren, jeder mit irgendwelchen Ideen sehr geschätzt. Mit nicht negativ meine ich, dass alle Koeffizienten positiv sein müssen …

13 r lasso

3

Wie kann man mit instabilen

Beta-Stabilität in linearer Regression mit hoher Multi-Kollinearität? Nehmen wir an, in einer linearen Regression haben die Variablen und x 2 eine hohe Multi-Kollinearität (die Korrelation liegt bei 0,9).x1x1x_1x2x2x_2 Wir sind besorgt über die Stabilität des Koeffizienten, daher müssen wir die Multikollinearität behandeln.ββ\beta Die Lehrbuchlösung wäre, einfach eine der Variablen wegzuwerfen. …

13 regression multicollinearity

4

Was tun, wenn die Mittelwerte zweier Stichproben erheblich voneinander abweichen, der Unterschied jedoch zu gering ist, um eine Rolle zu spielen?

Ich habe zwei Proben ( n≈70n≈70n \approx 70 in beiden Fällen). Die Mittel unterscheiden sich um etwa das Doppelte der gepoolten Standardabweichung. dev. Der resultierende TTT Wert ist ungefähr 10. Obwohl es gut zu wissen ist, dass ich schlüssig gezeigt habe, dass die Mittelwerte nicht gleich sind, scheint dies von …

13 hypothesis-testing t-test

2

Wie kann getestet werden, ob zwei multivariate Verteilungen aus derselben Grundgesamtheit stammen?

Angenommen, Sie erhalten zwei multivariate Datensätze, einen alten und einen neuen, die nach demselben Verfahren erstellt wurden (für das Sie kein Modell haben), aber möglicherweise irgendwo entlang der Linie des Sammelns / Erstellens Bei den Daten ging etwas schief. Sie möchten die neuen Daten nicht als Validierungssatz für die alten …

13 multivariate-analysis

2

Wann wählt LASSO korrelierte Prädiktoren aus?

Ich benutze das Paket 'lars' in R mit dem folgenden Code: > library(lars) > set.seed(3) > n <- 1000 > x1 <- rnorm(n) > x2 <- x1+rnorm(n)*0.5 > x3 <- rnorm(n) > x4 <- rnorm(n) > x5 <- rexp(n) > y <- 5*x1 + 4*x2 + 2*x3 + 7*x4 + …

13 correlation feature-selection lasso regularization ridge-regression

2

Ermitteln der besten Funktionen in Interaktionsmodellen

Ich habe eine Liste von Proteinen mit ihren Merkmalswerten. Eine Beispieltabelle sieht folgendermaßen aus: ...............Feature1...Feature2...Feature3...Feature4 Protein1 Protein2 Protein3 Protein4 Zeilen sind Proteine und Spalten sind Merkmale. Ich habe auch eine Liste von Proteinen, die ebenfalls interagieren. beispielsweise Protein3, Protein4 Protein1, Protein2 Protein4, Protein1 Problem : Für eine vorläufige Analyse möchte …

13 machine-learning statistical-significance feature-selection networks

2

Warum sollte für die hierarchische logistische Regression eine Beta-Verteilung für den Bernoulli-Parameter verwendet werden?

Ich lese gerade Kruschkes hervorragendes Buch "Doing Bayesian Data Analysis". Das Kapitel über hierarchische logistische Regression (Kapitel 20) ist jedoch etwas verwirrend. Abbildung 20.2 beschreibt eine hierarchische logistische Regression, bei der der Bernoulli-Parameter als lineare Funktion der durch eine Sigmoidfunktion transformierten Koeffizienten definiert ist. Dies scheint die Art und Weise …

13 regression bayesian logistic multilevel-analysis

2

Problem mit e1071 libsvm?

Ich habe einen Datensatz mit zwei überlappenden Klassen, sieben Punkte in jeder Klasse, Punkte liegen im zweidimensionalen Raum. In R rufe ich svmdas e1071Paket auf, um eine separate Hyperebene für diese Klassen zu erstellen. Ich benutze den folgenden Befehl: svm(x, y, scale = FALSE, type = 'C-classification', kernel = 'linear', …

13 r machine-learning svm libsvm e1071

1

Halton-Sequenz gegen Sobol-Sequenz?

Aus einer Antwort in einer früheren Frage ging ich auf die Halton-Sequenz ein, um eine Reihe von Vektoren zu erstellen, die einen einheitlichen Probenraum ziemlich gleichmäßig abdecken. Auf der Wikipedia-Seite wird jedoch erwähnt, dass besonders höhere Primzahlen zu Beginn der Serie häufig stark korrelieren. Dies scheint für jedes Paar hoher …

13 sampling small-sample quasi-monte-carlo

2

Warum werden abgeleitete Features in neuronalen Netzen verwendet?

Zum Beispiel möchte man die Hauspreise vorhersagen und über zwei Eingabemerkmale die Länge und Breite des Hauses verfügen. Manchmal schließt man auch 'abgeleitete' Polynomeingabemerkmale ein, wie zum Beispiel Fläche, die Länge * Breite ist. 1) Worum geht es beim Einbeziehen abgeleiteter Features? Sollte ein neuronales Netz während des Trainings nicht …

13 machine-learning neural-networks

1

Wie nutzt der Kinect zufällige Wälder?

Ich habe auf dieser Site gelesen, dass der Kinect anscheinend den Zufallsalgorithmus für das maschinelle Lernen verwendet. Kann jemand erklären, wofür zufällige Wälder verwendet werden und wie ihr Ansatz funktioniert?

13 machine-learning random-forest application