Ich beschäftige mich mit der Maximum-Likelihood-Schätzung und lese, dass die Likelihood-Funktion das Produkt der Wahrscheinlichkeiten jeder Variablen ist. Warum ist es das Produkt? Warum nicht die Summe? Ich habe versucht, auf Google zu suchen, finde aber keine aussagekräftigen Antworten.

https://en.wikipedia.org/wiki/Maximum_likelihood

Dies ist eine sehr grundlegende Frage, und anstatt die formale Sprache und die mathematische Notation zu verwenden, werde ich versuchen, sie auf einer Ebene zu beantworten, auf der jeder, der die Frage verstehen kann, auch die Antwort verstehen kann.

Stellen Sie sich vor, wir haben eine Rasse von Katzen. Sie haben eine 75% ige Wahrscheinlichkeit, weiß geboren zu werden, und eine 25% ige Wahrscheinlichkeit, grau geboren zu werden, keine anderen Farben. Außerdem haben sie eine 50% ige Wahrscheinlichkeit, grüne Augen und 50% ige Wahrscheinlichkeit, blaue Augen zu haben, und Fellfarbe und Augenfarbe sind unabhängig voneinander.

Schauen wir uns nun einen Wurf mit acht Kätzchen an:

Sie werden sehen, dass 1 von 4 oder 25% grau sind. Außerdem hat 1 von 2 oder 50% blaue Augen. Nun ist die Frage,

Wie viele Kätzchen haben graues Fell und blaue Augen?

Sie können sie zählen, die Antwort ist eins. Das heißt, oder 12,5% von 8 Kätzchen.$\frac{1}{4} \times \frac{1}{2} = \frac{1}{8}$

Warum passiert das? Weil jede Katze mit einer Wahrscheinlichkeit von 1 zu 4 grau ist. Wählen Sie also vier Katzen aus, und Sie können davon ausgehen, dass eine davon grau ist. Wenn Sie jedoch nur vier von vielen Katzen auswählen (und den erwarteten Wert von einer grauen Katze erhalten), hat die graue Katze eine 1: 2-Wahrscheinlichkeit für blaue Augen. Dies bedeutet, dass Sie von der Gesamtzahl der Katzen, die Sie auswählen, zuerst die Gesamtzahl mit 25% multiplizieren, um die grauen Katzen zu erhalten, und dann die ausgewählten 25% aller Katzen mit 50% multiplizieren, um die Katzen mit blauen Augen zu erhalten. Dies gibt Ihnen die Wahrscheinlichkeit, blauäugige graue Katzen zu bekommen.

Wenn Sie sie zusammenfassen, erhalten Sie , was3ergibt$\frac{1}{4} + \frac{1}{2}$ oder 6 von 8. In unserem Bild entspricht es, die Katzen mit blauen Augen mit den Katzen mit grauem Fell zu addieren - und das eine graue blauäugige Kätzchen zweimal zu zählen! Eine solche Berechnung kann ihren Platz haben, ist jedoch bei Wahrscheinlichkeitsberechnungen eher ungewöhnlich und sicherlich nicht die, nach der Sie fragen.$\frac{3}{4}$

$A$$B$$S$$A$$B$$P(A$$B)=P(A\cap B) = P(A)P(B)$$A_1,A_2,...A_n$$P(\underset{i\in I}{\cap A_i})= \prod_{i\in I} P(A_i)$$I \subset [1,2,...,n]$

$x_1, x_2, …, x_n$$n$$f(x_1,x_2,...,x_n|\theta) = \prod_{i=1}^{i=n}f(x_i|\theta)$

$P(A \cap B)$$P(A) P(B)$

Wenn Sie also davon ausgehen, dass alle Ihre Beobachtungen unabhängig sind, entspricht die Wahrscheinlichkeit, alle von Ihnen ermittelten Werte zu beobachten, dem Produkt der einzelnen Wahrscheinlichkeiten.

Warum nicht hinzufügen?

Weil das offensichtlich keinen Sinn ergibt. Angenommen, Sie haben ein Viertel und einen Nickel und möchten beide umdrehen. Es gibt eine 50% ige Chance, dass das Quartal Köpfe hochkommt, und eine 50% ige Chance, dass Nickel Köpfe hochkommt. Wenn die Chance, dass beide Köpfe auftauchen, die Summe wäre, würde dies eine 100% ige Chance ergeben, was offensichtlich falsch ist, da für HT, TH und TT keine Chance bleibt.

Warum multiplizieren?

Denn es macht Sinn. Wenn Sie die 50% ige Chance des Quartalsaufstiegs mit der 50% igen Chance des Nickelaufstiegs multiplizieren, erhalten Sie eine 0,5 x 0,5 = 0,25 = 25% ige Chance, dass beide Münzen Köpfe sind. Vorausgesetzt, es gibt vier mögliche Kombinationen (HH, HT, TH, HT) und jede ist gleich wahrscheinlich, passt dies perfekt. Bei der Bewertung der Wahrscheinlichkeit, dass zwei unabhängige Ereignisse auftreten, multiplizieren wir ihre einzelnen Wahrscheinlichkeiten.

Ich lese diese Posts, weil ich wie beim Originalposter verstehen muss, warum die ' Wahrscheinlichkeit ' fn das ' Produkt ' der Dichte jedes Beispielwerts ist - ' x '. Ein lesbarer und logischer Grund wird unter der Überschrift Prinzip der maximalen Wahrscheinlichkeit angegeben. Ref: [ http://www-structmed.cimr.cam.ac.uk/Course/Likelihood/likelihood.html] Ein weiteres Zitat Mathematisch wird die Wahrscheinlichkeit definiert als die Wahrscheinlichkeit, eine Reihe von Messungen durchzuführen (gleiche Referenz) Kurz gesagt, die Wahrscheinlichkeit, dass Sie zu der Probe gekommen sind, die Sie zur Hand haben.

Ziel der Maximum-Likelihood-Methode ist es, Schätzer zu finden, die die Wahrscheinlichkeit maximieren, bestimmte Werte der Variablen (endogene Variable) zu beobachten. Das ist der Grund, warum wir die Wahrscheinlichkeit des Auftretens multiplizieren müssen.

Beispiel: Stellen Sie sich vor, dass die Anzahl der Anrufe, die eine Sekretärin in einer Stunde entgegennehmen kann, einer Giftverteilung folgt. Dann extrahieren Sie 2 Werte aus der Stichprobe (5 Anrufe und 8 Anrufe pro Stunde). Jetzt müssen Sie diese Frage beantworten. Was ist der Wert des Parameters, der die Wahrscheinlichkeit maximiert, 5 und 8 Telefonanrufe gleichzeitig zu beobachten? Versuchen Sie anschließend, mit der Wahrscheinlichkeit zu antworten, dass Sie alle Werte des Sam beobachten

Aufgrund der unabhängigen Zufallsvariablen

f (y1 = 5 Telefonanrufe) * f (y2 = 8 Telefonanrufe) = ∏if (y, θ) = L (θ, y1, y2)

Versuchen Sie schließlich zu beantworten, wie wahrscheinlich es ist, alle Werte der Stichprobe zu beobachten.