Gleitpunktarithmetik < Numerik < Hochschule < Mathe < Vorhilfe
|
Status: |
(Frage) beantwortet | Datum: | 18:59 Di 01.02.2005 | Autor: | Pit |
Hallo zusammen !
Was genau ist 6-stellige Gleitpunktarithmetik?
Gruss Pit
|
|
|
|
Hallo Pit,
> Was genau ist 6-stellige Gleitpunktarithmetik?
Bei Gleitkommazahlen wird das Komma nach der ersten Ziffer gesetzt. Dazu muß man sich natürlich merken wo das Komma vorher war.
123456 wäre als 6-stellige Gleitkommazahl 1,23456(5).
0,00123456 wäre als 6-stellige Gleitkommazahl 1,23456(-3).
Überzählige Stellen werden gerundet.
0,00123456789 wäre als 6-stellige Gleitkommazahl 1,23457(-3).
Zur Arithmetik wirds wenn man die Grundechenoperationen (+-*/) mit dazunimmt.
Alles klar?
gruß
mathemaduenn
|
|
|
|