Als «statistical-learning» getaggte Fragen

Wie funktioniert eine Support Vector Machine (SVM) und was unterscheidet sie von anderen linearen Klassifikatoren wie dem linearen Perceptron , der linearen Diskriminanzanalyse oder der logistischen Regression ? * (* Ich denke über die zugrunde liegenden Motivationen für den Algorithmus, Optimierungsstrategien, Generalisierungsfähigkeiten und Laufzeitkomplexität nach. )

108 machine-learning  classification  svm  statistical-learning 

Firstregressionskoeffizientenschätzung β R sind die Werte , die die Minimierungβ^Rβ^R\hat{\beta}^R RSS+λ∑j=1pβ2j.RSS+λ∑j=1pβj2. \text{RSS} + \lambda \sum_{j=1}^p\beta_j^2. Meine Fragen sind: Wenn , dann sehen wir, dass sich der obige Ausdruck auf das übliche RSS reduziert. Was ist, wenn λ → ∞ ? Ich verstehe das Lehrbuch Erklärung des Verhaltens der Koeffizienten nicht.λ=0λ=0\lambda …

71 ridge-regression  statistical-learning  history 

Die zweite Frage ist, dass ich in einer Diskussion irgendwo im Internet über "überwachtes Clustering" gesprochen habe. Soweit ich weiß, ist Clustering nicht überwacht. Was genau bedeutet "überwachtes Clustering"? Was ist der Unterschied zur "Klassifizierung"? Es gibt viele Links, die darüber sprechen: http://www.cs.uh.edu/docs/cosc/technical-reports/2005/05_10.pdf http://books.nips.cc/papers/files/nips23/NIPS2010_0427.pdf http://engr.case.edu/ray_soumya/mlrg/supervised_clustering_finley_joachims_icml05.pdf http://www.public.asu.edu/~kvanlehn/Stringent/PDF/05CICL_UP_DB_PWJ_KVL.pdf http://www.machinelearning.org/proceedings/icml2007/papers/366.pdf http://www.cs.cornell.edu/~tomf/publications/supervised_kmeans-08.pdf http://jmlr.csail.mit.edu/papers/volume6/daume05a/daume05a.pdf etc …

22 clustering  classification  unsupervised-learning  statistical-learning 

Dieser Begriff kommt häufig in methodenbezogenen Threads vor . Ist das Mischen eine bestimmte Methode für Data Mining und statistisches Lernen? Ich kann kein relevantes Ergebnis von Google erhalten. Es scheint, dass das Mischen die Ergebnisse vieler Modelle verwechselt und zu einem besseren Ergebnis führt. Gibt es eine Ressource, die …

15 machine-learning  data-mining  unsupervised-learning  statistical-learning 

Im ersten Kapitel des Buches Algebraische Geometrie und Statistische Lerntheorie, das sich mit der Konvergenz von Schätzungen in verschiedenen Funktionsräumen befasst, wird erwähnt, dass die Bayes'sche Schätzung der Schwartz-Verteilungstopologie entspricht, während die Maximum-Likelihood-Schätzung der Sup-Norm-Topologie entspricht (auf Seite 7): Zum Beispiel Sup-Norm, LpLpL^p -Norm, schwache Topologie des Hilbert-Raums , Schwartz-Verteilungstopologie …

14 bayesian  maximum-likelihood  statistical-learning 

Aus einigen Notizen zum maschinellen Lernen, die über diskriminierende Klassifizierungsmethoden sprechen, insbesondere die logistische Regression, wobei y die Klassenbezeichnung (0 oder 1) und x die Daten sind, heißt es: Wenn und , ist logistisch.x | y= 0 ~ P o i s s o n ( λ0)x|y=0∼P.ÖichssÖn(λ0)x|y = 0 \sim …

11 logistic  poisson-distribution  statistical-learning 

Dieses Dokument zu Adaboost enthält einige Vorschläge und Codes (Seite 17) für die Erweiterung von 2-Klassen-Modellen auf Probleme der K-Klasse. Ich möchte diesen Code so verallgemeinern, dass ich problemlos verschiedene 2-Klassen-Modelle anschließen und die Ergebnisse vergleichen kann. Da die meisten Klassifizierungsmodelle über eine Formelschnittstelle und eine predictMethode verfügen, sollte ein …

11 r  machine-learning  classification  statistical-learning  multi-class 

Ich lese Elemente des statistischen Lernens und auf Seite 12 (Abschnitt 2.3) wird ein lineares Modell wie folgt notiert: Yˆ=XTβˆY^=XTβ^\widehat{Y} = X^{T} \widehat{\beta} ... wobei die Transponierte eines Spaltenvektors der Prädiktoren / unabhängigen Variablen / Eingaben ist. (Es heißt früher: "Es wird angenommen, dass alle Vektoren Spaltenvektoren sind." Würde dies …

11 regression  references  statistical-learning 

Diese Frage befasst sich mit der Arbeit Differential Geometry of Curved Exponential Families-Curvatures and Information Loss von Amari. Der Text lautet wie folgt. Sei eine n- dimensionale Mannigfaltigkeit von Wahrscheinlichkeitsverteilungen mit einem Koordinatensystem θ = ( θ 1 , … , θ n ) , wobei p θ ( x …

10 mathematical-statistics  statistical-learning  geometry  information-geometry 

Welche Beziehungen und Unterschiede bestehen zwischen der statistischen Lerntheorie und der rechnergestützten Lerntheorie ? Geht es ihnen um das gleiche Thema? Die gleichen Probleme lösen und die gleichen Methoden anwenden? Ersteres sagt zum Beispiel, es sei die Theorie der Vorhersage (Regression, Klassifikation, ...).

9 machine-learning  statistical-learning  artificial-intelligence 

Geschlossen . Diese Frage muss fokussierter sein . Derzeit werden keine Antworten akzeptiert. Möchten Sie diese Frage verbessern? Aktualisieren Sie die Frage so, dass sie sich nur auf ein Problem konzentriert, indem Sie diesen Beitrag bearbeiten . Geschlossen vor 3 Jahren . Kann die zufällige Gesamtstruktur "als Algorithmus" trotz der …

9 machine-learning  classification  data-mining  supervised-learning  statistical-learning 

Ich habe gerade eine Kopie von The Elements of Statistical Learning von Hastie, Tibshirani und Friedman erhalten. In Kapitel 2 (Überblick über betreutes Lernen), Abschnitt 4 (Statistische Entscheidungstheorie) gibt er eine Ableitung der Regressionsfunktion. Lassen bezeichnet einen reellen Zufallseingangsvektor geschätzt und einer reellen Zufallsausgangsgröße bewertet, mit gemeinsamer Verteilung . Wir …

9 regression  statistical-learning 

Elements of Statistical Learning (ESL) ist ein Buch mit einer fantastischen Breite und Tiefe. Es behandelt das Wesentliche der sehr modernen Methoden, indem es die Arbeiten zitiert, in denen diese ursprünglichen Studien entstanden sind. Ich finde die Sprache des Buches jedoch wirklich sehr, sehr unerschwinglich. Ich glaube, es gibt einen …

8 self-study  statistical-learning 

Ich arbeite kernlabjetzt seit mehr als einem Jahr mit, aber ich habe mich bei der C-svcKlassifizierung immer an die Vanilla cost ( ) -Formulierung gehalten . kernlabEnthält natürlich einige andere Formulierungen. Im Handbuch werden einige Klassifizierungsformulierungen kurz zitiert. Ich bin ziemlich vertraut mit Vanille Cost Svms. Zum Beispiel kenne ich …

7 classification  svm  statistical-learning