DMUG-Archiv 2003

Frühere   Chronologischer Index   Spätere
Vorherige   Thematischer Index   Nächste

Re: Aua, numerische Ungenauigkeit ??

Hallo,

wie unter:

http://www.psc.edu/general/software/packages/ieee/ieee.html

nach zulesen, verwendet float 23 Bits f"ur die Mantisse, was

1.1920928955078125*10^-7

als kleinste Zahl mit dem Exponenten 0 ergibt, bei double 
sind es 52 Bits also

2.220446049250313*^-16

oder $MachineEpsilon

Das Verwenden von Br"uchen ist ein prima Rat, der Kenner empfiehlt

Table[1/Random[Integer, {1, 256}], {32}, {32}] // Inverse

anstelle der dummen Fliesskomma-Zahlen. Das geht nicht nur schnell,
sondern das Ergebnis ist auch sehr "ubersichtlich ;-)

Gruss
  Jens


Winfried Bilgic wrote:
> 
> Okay, die Mantisse rettet, bin ja auch kein eingefleischter Informatiker ;) Für mich folgt daraus, daß in
> Mathematica besser die Brüche benutzt werden sollten, als Zahlen in Dezimaldarstellung.
> 
> Siehe TableForm[N[Table[x, {x, -1/2, 1/2, 1/20}]]]
> 
> Übrigens, finde ich, daß die DMUG Community 1A ist und sich durch kompetente Mitglieder
> auszeichnet !!! Weiter so...
> 
> Gruß Winn
> 
> P.S.: Float hat 6 Stellen Genauigkeit (ergoogelt -> http://www.bitsandmore.de/html/cprog/c04.html )
> ______________________________________________________________________________
> UNICEF bittet um Spenden fur die Kinder im Irak! Hier online an
> UNICEF spenden: https://spenden.web.de/unicef/special/?mc=021101


Verweise:
Frühere   Chronologischer Index   Spätere
Vorherige   Thematischer Index   Nächste

DMUG DMUG-Archiv, http://www.mathematica.ch/archiv.html