Re: Aua, numerische Ungenauigkeit ??

[Jens-Peer Kuska <kuska@XXXXXXX.de>]

Hallo,

in den Versionen vor 4.0 war

N[0]= 0

ohne Dezimal-Punkt.
Und das war z. B. bei MathLink Programmen
ein grosses "Argernis. Sendete man n"amlich
ein Feld mit ein Paar Nullen an das C-Programm,
welches auf lauter Real's wartete, dann schmierte
das gute St"uck einfach ab, weil zwischen den
64 Bit "double" ein Paar 32 Bit "int" Nullen rum
geisterten.

Das ist erst mit den PackedArray[] Daten
rausgeflogen.

Gruss
  Jens


Thomas Hahn wrote:
> 
> > >Weiss jemand warum
> > >N[0] zwar (in 4.2)  0.  ist, aber
> > >N[0,100]   die exakte  0  ??
> >
> > ich denke es ist deshalb exakt 0, weil es andernfalls Probleme gäbe,
> > die Precision[] von N[0, 100] zu definieren.
> 
> In Versionen vor 4.0(?) war N[0] = 0.
> Da das in manchen Fällen gestört hat, wurde es vermutlich
> als Spezialfall hinzugefügt.
> 
> Thomas