DMUG-Archiv 2003

Frühere   Chronologischer Index   Spätere
Vorherige   Thematischer Index   Nächste

AW: Aua, numerische Ungenauigkeit ??

Hallo,

ich bitte um Verzeihung, falls bereits erledigt:

x1 = Table[x, {x, -1/2, 1/2, 1/20}];
N[x1] // TableForm

erzeugt das erwünschte "glatte Einmaleins der 0,05".

Beste Grüße,

Matthias Bode.



-----Ursprüngliche Nachricht-----
Von: Jens-Peer Kuska [mailto:kuska@XXXXXXX.de]
Gesendet: Mittwoch, 28. Mai 2003 20:08
An: Winfried Bilgic
Cc: Deutsche Mathematica News Group
Betreff: Re: Aua, numerische Ungenauigkeit ??


Hallo,

was ist an einem Fehler von Maximal 0.00000000000000003 oder
3 * 10^(-17) auszusetzen ??
Ausserdem mag es ja schon sein, das eine Zahl im Dezimalsystem
endlich viele Dezimalstellen hat, das muss aber im Bin"arsystem,
das der Rechner verwendet nicht so sein, 0.2 l"asst sich im Bin"aren
nur mit undenlich vielen Stellen darstellen, tja und wenn das Ergebnis
die 0.2 erreicht ist - welche "Uberraschung - dann auch der
Fehler ein bischen gr"osser ...

Gruss
  Jens

Winfried Bilgic wrote:
> 
> Hallo,
> 
> bei einem simplem Table Ausdruck stolperte ich über eine doch arge
Ungenauigkeit:
> 
> x1 = Table[x, {x, -0.5, +0.5, 0.05}];
> x1 // TableForm
> 
> kam das heraus:
> -0.5
> -0.45
> -0.4
> -0.35
> -0.3
> -0.25
> -0.19999999999999998
> 
> -0.09999999999999998
> -0.049999999999999975
> 2.7755575615628914e-17
> 0.05000000000000003
> 0.10000000000000003
> 0.15000000000000002
> 0.20000000000000004
> 0.25000000000000006
> 0.30000000000000004
> 0.35000000000000003
> 0.4,
> 0.45000000000000007
> 0.5
> 
> Damit kann ich mich eigentlich so gar nicht anfreunden :S Benutze einen
Mac G4, was macht der
> Table Ausdruck bei Euch ?
> 
> Winn
> ________________________________________________________________
> Mit der Grupppen-SMS von WEB.DE FreeMail können Sie eine SMS an alle
> Freunde gleichzeitig schicken: http://freemail.web.de/features/?mc=021179



Verweise:
Frühere   Chronologischer Index   Spätere
Vorherige   Thematischer Index   Nächste

DMUG DMUG-Archiv, http://www.mathematica.ch/archiv.html