Als «gaussian-process» getaggte Fragen

Ich habe versucht, eine gewisse Intuition für die Regression des Gaußschen Prozesses zu gewinnen, also habe ich ein einfaches 1D-Spielzeugproblem zum Ausprobieren erstellt. Ich habe als Eingaben und als Antworten genommen. ('Inspiriert' von )xich= { 1 , 2 , 3 }xi={1,2,3}x_i=\{1,2,3\}y = x 2yich= { 1 , 4 , 9 …

9 regression  gaussian-process 

Ich lese das GPML-Buch und in Kapitel 2 (Seite 15) erfahren Sie, wie Sie mit dem Gaußschen Prozess (GP) eine Regression durchführen, aber es fällt mir schwer, herauszufinden, wie es funktioniert. Bei der Bayes'schen Inferenz für parametrische Modelle wählen wir zuerst einen Prior für die Modellparameter , dh p ( …

9 machine-learning  gaussian-process 

Ich habe den neuesten GPML-Matlab-Code heruntergeladen. Ich habe die Dokumentation gelesen und die Regressionsdemo ohne Probleme ausgeführt. Ich habe jedoch Schwierigkeiten zu verstehen, wie ich es auf ein Regressionsproblem anwenden kann, mit dem ich konfrontiert bin. Das Regressionsproblem ist wie folgt definiert: Sei ein Eingabevektor und y i ∈ R …

9 regression  machine-learning  matlab  gaussian-process 

TLDR: Haben Dünnplatten-Regressionssplines eine probabilistische / Bayes'sche Interpretation? Bei gegebenen Eingabe-Ausgabe-Paaren ist ; Ich möchte eine Funktion wie folgt schätzen: wobei eine Kernfunktion ist und ein Merkmalsvektor der Größe . Die Koeffizienten und können durch Lösen von wobei Die Zeilen von \ Phi sind gegeben durch(xi,yi)(xi,yi)(x_i,y_i)i=1,...,ni=1,...,ni=1,...,nf(⋅)f(⋅)f(\cdot)f(x)≈u(x)=ϕ(xi)Tβ+∑i=1nαik(x,xi),f(x)≈u(x)=ϕ(xi)Tβ+∑i=1nαik(x,xi),\begin{equation}f(x)\approx u(x)=\phi(x_i)^T\beta +\sum_{i=1}^n \alpha_i k(x,x_i),\end{equation}k(⋅,⋅)k(⋅,⋅)k(\cdot,\cdot)ϕ(xi)ϕ(xi)\phi(x_i)m&lt;nm&lt;nm<nαiαi\alpha_iβiβi\beta_iminα∈Rn,β∈Rm1n∥Y−Φβ−Kα∥2Rn+λαTKα,minα∈Rn,β∈Rm1n‖Y−Φβ−Kα‖Rn2+λαTKα,\begin{equation} …

8 regression  bayesian  gaussian-process  smoothing  semiparametric 

Ich bin ein wenig verwirrt über die Formel zur Berechnung der Kovarianz im Gaußschen Prozess (das Hinzufügen von Varianz verwirrt mich immer, da es nicht immer explizit bezeichnet wird). Der Grund für die Verwirrung ist, dass die Formeln in Mustererkennung und maschinellem Lernen von Bishop angegeben sind und der Gaußsche …

8 machine-learning  covariance  covariance-matrix  kernel-trick  gaussian-process 

Zum ersten Mal (entschuldigen Sie Ungenauigkeit / Fehler) habe ich mir Gaußsche Prozesse angesehen und mir dieses Video von Nando de Freitas genauer angesehen . Die Notizen sind hier online verfügbar . Irgendwann zieht er 101010 Zufallsstichproben aus einer multivariaten Normalen, die durch Konstruktion einer Kovarianzmatrix basierend auf einem Gaußschen …

8 machine-learning  simulation  stochastic-processes  gaussian-process 

Ich entschuldige mich im Voraus, wenn diese Frage schlecht gestellt ist: Ich bin ein Astronom, kein Statistiker. Meine Frage soll mir speziell helfen, herauszufinden, ob Gaußsche Prozesse eine geeignete Technik für mein Problem sind. Mit einem Teleskop und einem fasergespeisten Spektrographen hat mein Projekt an vielen Orten das optische Spektrum …

8 gaussian-process 

Ich probiere Bayesian Optimization aus und folge Snoek, Larochelle und Adams [ http://arxiv.org/pdf/1206.2944.pdf] mit GPML [ http://www.gaussianprocess.org/gpml/code/matlab / doc /] . Ich habe die auf Seite 3 beschriebene Erfassungsfunktion für erwartete Verbesserungen implementiert und gehe davon aus, dass ich richtig bin. Um zu entscheiden, wo ich mein Ziel als nächstes …

8 gaussian-process  optimization  bayesian-optimization 

Ist es möglich, mit dem GPML-Code eine ungefähre vollständige Bayes'sche (1) Auswahl von Hyperparametern (z. B. Kovarianzskala) durchzuführen, anstatt die Grenzwahrscheinlichkeit zu maximieren (2)? Ich denke, die Verwendung von MCMC-Methoden zur Lösung der Integrale mit Hyperparametern sollte zu besseren Ergebnissen führen, wenn es um Überanpassung geht. Meines Wissens enthält das …

8 bayesian  model-selection  gaussian-process  hyperparameter 

Ich habe diese Verwirrung im Zusammenhang mit der prädiktiven Verteilung des Gaußschen Prozesses. Ich habe diese Zeitung gelesen Ich habe nicht verstanden, wie die Integration zu diesem Ergebnis geführt hat. Was ist P (u * | x ​​*, u)? Wie kommt es auch, dass die Kovarianz der posterioren Verteilungσ2(σ2I+K)−1Kσ2(σ2I+K)−1K\sigma^2(\sigma^2I+K)^{-1}K

8 regression  normal-distribution  gaussian-process 

Ich weiß, was ein Gaußsches Feld ist. Ich bin mir jedoch nicht ganz sicher, was unter stationär zu verstehen ist. Ich habe dieses stationäre Ding an vielen Orten wie stationären autoregressiven Prozessen usw. gesehen, weiß aber nicht wirklich, was unter stationär zu verstehen ist.

8 gaussian-process  stationarity 

Ich versuche, viele Draws (dh Realisierungen) eines Gaußschen Prozesses , mit dem Mittelwert 0 und der Kovarianzfunktion zu erzeugen .ei(t)ei(t)e_i(t)1≤t≤T1≤t≤T1\leq t \leq Tγ(s,t)=exp(−|t−s|)γ(s,t)=exp⁡(−|t−s|)\gamma(s,t)=\exp(-|t-s|) Gibt es einen effizienten Weg, um die Quadratwurzel einer Kovarianzmatrix nicht zu berechnen? Kann jemand alternativ ein Paket empfehlen , um dies zu tun?T×TT×TT \times TR

8 r  probability  simulation  stochastic-processes  gaussian-process 

Die Matérn-Kovarianzfunktion konvergiert zur quadratischen exponentiellen Kovarianzfunktion. Viele Quellen, darunter das GPML-Buch und Wikipedia , geben dieses Ergebnis an. Keiner von ihnen liefert Details. Ich suche Referenzen, die Details und einen Beweis liefern. Insbesondere wundere ich mich über die Art der Konvergenz.

8 mathematical-statistics  covariance  convergence  gaussian-process  rbf-kernel 

Ich habe mich gefragt, warum Menschen Gaußsche Prozesse (GP) verwenden, um eine unbekannte (manchmal deterministische) Funktion zu modellieren. Betrachten Sie zum Beispiel eine unbekannte Funktion . Wir haben drei unabhängige Beobachtungen von dieser Funktion: y=f(x)y=f(x)y=f(x)(x1,y1);(x2,y2);(x3,y3)(x1,y1);(x2,y2);(x3,y3)\big(x_1,y_1); \big(x_2,y_2); \big(x_3,y_3) Um die zugrunde liegende Funktion zu lernen, ist der GP eine übliche nichtparametrische …

8 machine-learning  correlation  covariance  gaussian-process 

Problem Ich habe Zeitreihendaten, die von einer Maschine über zwei nicht zusammenhängende Zeiträume generiert wurden - ungefähr einen Monat im Jahr 2016 und einen weiteren Monat im Jahr 2018. Von Domänenexperten wird angenommen, dass zu jedem Zeitpunkt Schritt eine beobachtete Variable Y ^ t durch einen anderen Satz beobachteter Variablen, …

7 time-series  hypothesis-testing  gaussian-process  model-comparison  structural-change