Maximum-Likelihood-Prinzip < Stochastik < Hochschule < Mathe < Vorhilfe
|
Status: |
(Frage) beantwortet | Datum: | 20:00 Do 25.08.2011 | Autor: | Igor1 |
Aufgabe | Die Zufallsvariablen [mm] Y_{1},..., Y_{n} [/mm] seien unabhängig identisch auf [mm] {0,1...,\theta} [/mm] gleichverteilt, wobei [mm] \theta \in \IN_{0} [/mm] unbekannt ist.
Bestimmen Sie den Maximum-Likelihood-Schätzer für [mm] \theta. [/mm] |
Hallo,
[mm] L(\theta)= P(Y_{1}= y_{1},...,Y_{n}=y_{n}) [/mm] =
(mit [mm] y_{1},...,y_{n} [/mm] als Realisierungen der ZV'en )
= [mm] \produkt_{i=1}^{n}P(Y_{i}=y_{i}).
[/mm]
Da [mm] Y_{i}'s [/mm] gleichverteilt sind , gilt [mm] P(Y_{1}=y_{1})=...=P(Y_{n}=y_{n})=
[/mm]
[mm] \bruch{1}{\theta +1}
[/mm]
Damit gilt [mm] L(\theta)= (\bruch{1}{\theta +1})^{n}.
[/mm]
[mm] L'(\theta) [/mm] = [mm] \bruch{-n(\theta +1)^{n-1}}{(\theta+1)^{2n}}=
[/mm]
[mm] \bruch{-n}{(\theta+1)^{n+1}}
[/mm]
Die Ableitung wird jedoch für kein [mm] \theta [/mm] 0.
Habe ich mich verrechnet?
Gruss
Igor
|
|
|
|
Guten Abend,
Das ist wohl richtig, dass die Funktion im innern keine Extrema hat. Allerdings liefern die Ableitung nur Extrema im Innern, allerdings nicht an den Randpunkten.
Allerdings ist deine Likelihood-Funktion auch nicht ganz richtig. Denn falls [mm] $y_{i}>\theta$ [/mm] oder [mm] $y_{i}<0$, [/mm] so ist ja [mm] $P(X_{i}=y_{i})=0$, [/mm] also ist [mm] $P(X_{i}=y_{i})=\frac{1}{\theta+1}\cdot 1_{\lbrace 0,1,\hdots,\theta \rbrace}(y_{i}).$
[/mm]
Also ist Maximum-Likelihood Funktion:
[mm] $L(y_{1},y_{2},\hdots,y_{n},\theta)=\produkt_{i=1}^{n}\frac{1}{\theta+1}\cdot 1_{\lbrace 0,1,\hdots,\theta \rbrace}(y_{i})=\frac{1}{(\theta+1)^{n}}\produkt_{i=1}^{n}1_{\lbrace 0,1,\hdots,\theta \rbrace}(y_{i})=\frac{1}{(\theta+1)^{n}}1_{\lbrace 0,1,\hdots,\theta \rbrace}(\max\{y_{1},y_{2},\hdots,y_{n}\})$
[/mm]
Nun hast du ja festgestellt, das die Funktion im Innern keine Extrema hast.
Also muss es an den Rändern liegen.
Jetzt guck dir mal die Monotonie von [mm] $\frac{1}{(\theta+1)^{n}}$
[/mm]
Viele Grüße
Blasco
|
|
|
|
|
Status: |
(Frage) beantwortet | Datum: | 21:57 Do 25.08.2011 | Autor: | Igor1 |
Hallo Blasco,
das Produkt der Indikatorfunktionen auf der linken Seite der Gleichung ist
Null für z.B [mm] y_{2}<0. [/mm] Wenn man auf der rechten Seite nur das Maximum von [mm] {y_{1},..., y_{n}} [/mm] betrachtet, dann könnte es passieren , dass das
Maximum von [mm] {y_{1},..., y_{n}} [/mm] tatsächlich in [mm] {0,1,...,\theta} [/mm] liegt, aber das Produkt links (wie gesagt) null sein kann.
Wie siehst du es ?
Wenn man die Monotonie von [mm] \bruch{1}{(\theta+1)^{n}}betrachtet, [/mm] dann ist diese monoton fallend. D.h für [mm] \theta=0 [/mm] ist der Wert der Funktion maximal.
Ehrlich gesagt, habe ich nicht so ganz verstanden, was man machen soll , wenn eine Funktion keine Extrema im Inneren liefert.
Gibt es da eine "ABC-Vorgehensweise", wie man an den Rändern das Vorliegen von Extrema nachprüft? Oder hängts es meistens von den Eigenschaften der Funktion ab, also ob diese monoton ist ?
Gruss
Igor
|
|
|
|
|
Status: |
(Antwort) fertig | Datum: | 22:18 Do 25.08.2011 | Autor: | luis52 |
> Hallo Blasco,
>
> das Produkt der Indikatorfunktionen auf der linken Seite
> der Gleichung ist
> Null für z.B [mm]y_{2}<0.[/mm]
Das kann nicht passieren, da [mm] $y_2\in\{0,1,\dots,\theta\}$. [/mm]
>
> Wenn man die Monotonie von
> [mm]\bruch{1}{(\theta+1)^{n}}betrachtet,[/mm] dann ist diese monoton
> fallend. D.h für [mm]\theta=0[/mm] ist der Wert der Funktion
> maximal.
Das stimmt nicht. Zeichne mal die Likelihoodfunktion [mm] $L(\theta)$, $\theta=0,1,2,\dots$, [/mm] fuer die Beobachtungen [mm] $y_1=3,y_2=5,y_3=2$.
[/mm]
vg Luis
|
|
|
|
|
Status: |
(Frage) beantwortet | Datum: | 22:40 Do 25.08.2011 | Autor: | Igor1 |
Hallo Luis ,
Blasco hat geschrieben, dass [mm] y_{i}<0 [/mm] sein könnten.
Für mich hört sich das fragwürdig an, da die Zufallsvariablen, so wie sie definiert sind nur nichtnegative Werte annehmen können (damit auch sind ihre Realisierungen nicht negativ, ja?)
Warum stimmt nicht, dass [mm] g(\theta):= \bruch{1}{(\theta+1)^{n}}
[/mm]
an der Stelle 0 ihr Maximum annimmt?
Gruss
Igor
|
|
|
|
|
Status: |
(Antwort) fertig | Datum: | 23:08 Do 25.08.2011 | Autor: | luis52 |
> Hallo Luis ,
>
> Blasco hat geschrieben, dass [mm]y_{i}<0[/mm] sein könnten.
Ich weiss nicht, worauf er hinaus wollte.
>
> Für mich hört sich das fragwürdig an, da die
> Zufallsvariablen, so wie sie definiert sind nur
> nichtnegative Werte annehmen können (damit auch sind ihre
> Realisierungen nicht negativ, ja?)
Ja.
>
>
> Warum stimmt nicht, dass [mm]g(\theta):= \bruch{1}{(\theta+1)^{n}}[/mm]
>
> an der Stelle 0 ihr Maximum annimmt?
>
[mm] $g(\theta)$ [/mm] schon, aber nicht [mm] $L(\theta)$.
[/mm]
Nimm mein Beispiel mit $ [mm] y_1=3,y_2=5,y_3=2 [/mm] $. Offenbar gilt [mm] $L(\theta)=P(Y_1=3)P(Y_2=5)P(Y_3=2)=0$ [/mm] fuer [mm] $\theta=2$, [/mm] da [mm] $L(\theta)=0$ [/mm] denn [mm] $y_1=3\notin\{0,1,2\}=\{0,1,2,\dots,\theta\}$. [/mm] Mindestens einer der Faktoren in [mm] $L(\theta)$ [/mm] ist Null und damit [mm] $L(\theta)$, [/mm] wenn [mm] $\theta<5=y_2=\max\{y_1,y_2,y_3\}$. [/mm] Umgekehrt heisst dass, das [mm] $L(\theta)>0$ [/mm] fuer [mm] $\theta=5,6,7,\dots$, [/mm] genauer [mm] $L(\theta)=1/(1+\theta)^3$. [/mm]
Fassen wir zusammen: Es ist [mm] $L(\theta)=0$ [/mm] fuer [mm] $\theta<5$ [/mm] und [mm] $L(\theta)=1/(1+\theta)^3$ [/mm] fuer [mm] $\theta\ge5$. [/mm] Das Maximum der Funktion liegt somit in $y=5$, und es ist [mm] $L(5)=1/(1+5)^3$.
[/mm]
Der ML-Schaetzer ist [mm] $\hat\theta=\max\{Y_1,\dots,Y_n\}$.
[/mm]
vg und
Luis
|
|
|
|
|
Status: |
(Mitteilung) Reaktion unnötig | Datum: | 23:25 Do 25.08.2011 | Autor: | Igor1 |
Hallo Luis,
ich denke, dass ich es verstanden habe.
Danke schön !
Gruss und
Igor
|
|
|
|