maschinengenauigkeit def < Numerik < Hochschule < Mathe < Vorhilfe
|
| Status: |
(Frage) beantwortet  | | Datum: | 13:54 Di 07.11.2006 | | Autor: | AriR |
hey leute
ich hab eine kurze frage zu dem wiki artikel über maschinengenauigkeit und zwar wird dort die maschinengenauigkeit definiert als [mm] 0,5*\beta^{1-t}
[/mm]
angenommen man will jetzt auf die mantissenlänge 3 runden, dann ist doch maximal der fehler 0,0005 bei der rundung möglich oder?(im dezimalsystem)
wenn man aber [mm] 0,5*10^{1-3} [/mm] berrechnet erhält man [mm] 0,5*10^2=0,005 [/mm] da stimmt doch was nicht oder?
kann mir jemand sagen, wo bei mir der fehler liegt?
danke und gruß
Ari ;)
|
|
| |
|
Hallo Ari,
Für Welche konkreten Zahlen erhälst Du 0,0005 als Fehler? 1,005 zu nehmen scheint mir auf jeden Fall vielversprechender.
viele Grüße
mathemaduenn
|
|
|
| |
|
| Status: |
(Frage) beantwortet | | Datum: | 14:21 Di 07.11.2006 | | Autor: | AriR |
angenommen man hat die zahl 1,235
als bild der rd funktion dann liegt ja in derem urbild
1,2345-1,2354 und den größten abstand haben dann doch 1,235 und 1,2345 mit 0,0005 oder?
so habe ich mir das gedacht
gruß ari
|
|
|
| |
|
Hallo Ari,
Moment die Zahl 1,235 soll die Maschinenzahl sein ja.
Da mußt Du jetzt durch 
![[grins]](/images/smileys/grins.gif "[grins]")
Wieviel Ziffern hat die(Mantissenlänge)
Laß uns gemeinsam zählen
eins 1,234
zwei 1,234
drei 1,234
vier 1,234
Na gut Scherz beiseite Du hast vermutlich angenommen die 1 zählt nicht mit tut sie aber. Anzahl der Ziffern heißt das nicht Anzahl der Nachkommastellen(Das wäre dann eine Festkommazahl)
gruß
mathemaduenn
|
|
|
| |
|
| Status: |
(Mitteilung) Reaktion unnötig  | | Datum: | 15:03 Di 07.11.2006 | | Autor: | AriR |
asoooooo
ne das wusste ich echt nicht.. dachte die mantisse wären echt nur die nachkommastellen.
jo besten dank :) liegt viell daran, dass man die zahlen meist zu 0,... normiert und dann hat man ja nur noch nachkommastellen ungleich 0 :)
vielen dank und gruß
ari
|
|
|
|
