Gauß-Newton verfahren < Nichtlineare Gleich. < Numerik < Hochschule < Mathe < Vorhilfe
|
Status: |
(Frage) beantwortet | Datum: | 15:17 Fr 20.01.2006 | Autor: | mariposa |
Aufgabe | Sei F: [mm] \IR^{n} \to \IR^{m}, [/mm] m [mm] \ge [/mm] n eine zweimal stetige Funktion. Wir betrachten das Nichtlineare Kleinste-Quadrate-Problem
min f(x) mit f(x) =0,5 [mm] *||F(x)||_{2}^{2} [/mm] (KQ)
Meist löst man (KQ) mit der folgenden Variante des Newton-Verfahrens:
Gauß Newton Verfahren:
Wähle [mm] x^{0} \in \IR.
[/mm]
Für k=0,1,2...
Bestimme [mm] s^{k}\in \IR^{n} [/mm] durch Lösen der Gauß-Newton-Gleichung
[mm] F'(x^{k})^{t}F'(x^{k}) s^{k}= -F'(x^{k})^{t}F(x^{k}) [/mm] (GN)
und setze [mm] x^{k+1}= x^{k}+s^{k}
[/mm]
a) Berechen Sie den Gradienten von f und die Hessematrix von f
b) Vergleichen Sie (GN) mit der Newton-Gleichung für das Problem (KQ). Worin besteht der Unterschied?
c)Geben Sie ein lineares Kleinste-Quadrate-Problem an, das äquivalent ist zu (GN).
d) Sei x* die Lösung von (KQ) und F'(*) habe vollen Spaltenrang. Begründen Sie, dass dann das Newton-Verfahren in einer Umgebung von x* wohldefiniert ist.
|
zu a) Das haben wir, glaube ich , gelöst
zu b) Was genau ist denn die Newton Gleichung für (KQ)? Gibt es einen Unterschied zwischen Gauß-Newton-Gleichung und Newton-Gleichung?
zu c) Das müsste doch ähnlich gehen wie in b) bloß umgedreht? Aber wie kreig ich das hin, dass das linear ist?
zu d) Reicht als Begründung, dass wenn F'(x) vollen Spaltenrang hat, es invertierbar ist, und man also in GN nach [mm] s^{k}auflösen [/mm] kann und damit das Verfahren wohldefiniert ist?
Ich wäre euch sehr dankbar für ein paar Tipps.
Gruß
Maike
|
|
|
|
Hallo Maike,
zu b)
Für ein Minimum muß ja grad f=0 gelten. Zur Lösung dieser Gleichung sollst Du vermutlich das Newtonverfahren verwenden. Dazubraucht man dann auch die Ergebnisse aus a)
zu c) Hier verstehe ich nicht was da gleich sein soll. Nur zur Info ein solches Problem sieht so aus ||Ax-b|| [mm] \to [/mm] min
Du kannst ja mal nach "Normalengleichung" googeln.
zu d) Um Durchführbarkeit zu erreichen muß F'(x) vollen Spaltenrang haben. Das ist richt. Der Knackpunkt ist eigentlich das wenn [mm] F'(x^{ \*}) [/mm] vollen Spaltenrang hat dies auch in einer Umgebung von [mm] x^{\*} [/mm] gilt.
viele Grüße
mathemaduenn
|
|
|
|
|
Status: |
(Frage) beantwortet | Datum: | 16:05 Mo 23.01.2006 | Autor: | mariposa |
Erstmals vielen Dank, aber ich hab trotzdem noch ein paar Fragen
zu b) Wenn man das Gauß-Newton-Verfahren ein bisschen umformuliert erhält man [mm] x^{k+1}= x^{k}-F'(x^{k})^{t}/ ||F'(x^{k})||_{2}^{2}* F(x^{k})
[/mm]
und für das Newton-Verfahren: [mm] x^{k+1}= x^{k}-F'(x^{k})^{-1}* F(x^{k}).
[/mm]
Das heißt beide Verfahren unterscheiden sich durch den Faktor vor dem [mm] F(x^{k}). [/mm] Aber wo ist das vom Verfahren her inhaltlich der Unterschied?
zu d) Kann man vorraussetzen, dass wenn F'(x*) vollen Spaltenrang hat, auch für x aus einer Umgebung von x* F'(x) vollen Spaltenrang hat oder muss man das noch zeigen und wenn ja, wie macht man das?
Gruß und Dank
Maike
Maike
|
|
|
|
|
Hallo Maike,
> Erstmals vielen Dank, aber ich hab trotzdem noch ein paar
> Fragen
> zu b) Wenn man das Gauß-Newton-Verfahren ein bisschen
> umformuliert erhält man [mm]x^{k+1}= x^{k}-F'(x^{k})^{t}/ ||F'(x^{k})||_{2}^{2}* F(x^{k})[/mm]
Wie hast Du das denn hingekriegt?
> und für das Newton-Verfahren: [mm]x^{k+1}= x^{k}-F'(x^{k})^{-1}* F(x^{k}).[/mm]
Da würde ich dann etwas anderes bekommen. Insbesondere muß [mm] F'(x^k) [/mm] nicht quadratisch sein(steht zumindest nirgends) und dann wird's mit dem invertieren schwierig.
Jetzt interessiert mich doch die Lsg. von der a)
> zu d) Kann man vorraussetzen, dass wenn F'(x*) vollen
> Spaltenrang hat, auch für x aus einer Umgebung von x* F'(x)
> vollen Spaltenrang hat oder muss man das noch zeigen und
> wenn ja, wie macht man das?
Hier kannst Du die Stetigkeit nutzen und das Störungslemma( durch eine kleine Störung bleibt eine reguläre Matrix regulär)
viele Grüße
mathemaduenn
|
|
|
|