Lineare Regression < Stochastik < Hochschule < Mathe < Vorhilfe
|
| Status: |
(Frage) beantwortet  | | Datum: | 11:14 So 17.04.2005 | | Autor: | bastue |
Schönen Sonntag euch !
Ich weiß nicht ganz genau, ob ich mit der Frage hier richtig bin, da ich nicht genau einordnen kann, wo meine Frage hingehört, aber ich versuchs einfach mal .
In der Physikvorlesung hat uns unser Prof was an die Tafel geknallt, was zwar seiner Meinung nach sowieso nicht soo wichtig für uns sei, aber was ich dann doch ganz gerne nachvollziehen würde.
In seinem Skript sind da im Prinzip nur vier Sachen genannt
1) Methode der kleinsten Fehlerquadrate --> [mm] \summe_{i=1}^{n} [/mm] ( xi - <x>)²
2) Lineare Regression basiert auf Methode der kleinsten Fehlerquadrate .. Vermutung Y:a+bx
3) Bestimme Koeffizienten a und b so , dass [mm] \summe_{i=1}^{n} [/mm] (yi - [a+bxi])² minimal wird
und 4tens die beiden Formeln für die Koeffizienten , die dürften ja überall gleich sein ..
mit b =( [mm] \summe_{i=1}^{n} [/mm] xiyi - <x> [mm] \summe_{i=1}^{n} [/mm] yi ) / [mm] \summe_{i=1}^{n} [/mm] xi² - <x> [mm] \summe_{i=1}^{n} [/mm] xi )
und a : <y> - b<x>
Wie leitet man diese letzte Monsterformel aus der Forderung her, dass die Summe der Fehlerquadrate minimal werden soll ?
Ich hab ein bisschen gegoogled aber nix vernünftiges gefunden, ausser den Hinweis, dass man die Gleichung Nr. 1 partitiell nach a und b ableiten soll ??
und wie kommt man von nr 1 auf nr 3, das hängt doch mit der vermutung nr 2. y=a+bx zusammen, aber was da gemacht wurde seh ich gerade nicht ! ?
grrrrruß
der basti
Ich habe diese Frage in keinem Forum auf anderen Internetseiten gestellt.
|
|
| |
|
| Status: |
(Antwort) fertig  | | Datum: | 19:14 So 17.04.2005 | | Autor: | Astrid |
Hallo Basti,
> 1) Methode der kleinsten Fehlerquadrate -->
> [mm]\summe_{i=1}^{n}[/mm] ( xi - <x>)²
>
> 2) Lineare Regression basiert auf Methode der kleinsten
> Fehlerquadrate .. Vermutung Y:a+bx
>
> 3) Bestimme Koeffizienten a und b so , dass
> [mm]\summe_{i=1}^{n}[/mm] (yi - [a+bxi])² minimal wird
>
> und 4tens die beiden Formeln für die Koeffizienten , die
> dürften ja überall gleich sein ..
>
>
> mit b =( [mm]\summe_{i=1}^{n}[/mm] xiyi - <x> [mm]\summe_{i=1}^{n}[/mm] yi
> ) / [mm]\summe_{i=1}^{n}[/mm] xi² - <x> [mm]\summe_{i=1}^{n}[/mm] xi )
>
> und a : <y> - b<x>
Was willst du machen? Du willst aus Messwerten [mm](x_i, y_i)_{i=1}^n[/mm] die Gleichung [mm]Y=aX+b[/mm] schätzen. Du suchst also Parameter [mm]a, b[/mm] so dass [mm]\summe_{i=1}^{n}(y_i - [a+b x_i])²[/mm] minimal wird.
Das ist nichts anderes als das Minimum der Funktion [mm]f(a,b)=\summe_{i=1}^{n}(y_i - [a+b x_i])²[/mm] zu bestimmen.
Deshalb leitest du partiell nach $a$ und $b$ ab:
[mm]\bruch{\partial}{\partial a}f(a,b)=\summe_{i=1}^{n}2 \cdot (y_i - [a+b x_i])² \cdot (-1)[/mm]
was Null werden soll, woraus sich die erste Bedingung ergibt: [mm]a=\overline{y} - b \overline{x}[/mm]
wobei [mm]\overline{x} =\bruch{1}{n} \summe_{i=1}^{n}x_i[/mm].
Weiter gilt
[mm]\bruch{\partial}{\partial b}f(a,b)=\summe_{i=1}^{n} 2 \cdot (y_i - [a+b x_i])² \cdot (-x_i)[/mm]
was auch gleich Null werden soll.
Jetzt müsstest du noch die zweiten Ableitungen bilden, um zu prüfen, ob es sich wirklich um ein Minimum handelt.
Wenn du die erste Bedingung in die zweite einsetzt und ein wenig umformst, solltest du auf das Ergebnis eures Profs kommen.
Viele Grüße
Astrid
|
|
|
| |
|
| Status: |
(Mitteilung) Reaktion unnötig  | | Datum: | 13:14 Mi 20.04.2005 | | Autor: | bastue |
Ah okay , dann hab ich es vermutlich so einigermaßen durchschaut, danke !
|
|
|
|
