Re: Aua, numerische Ungenauigkeit ??

[Rolf Mertig <rolf@XXXXXXX.com>]

Hm, und warum soll die anders sein als bei N[1,100] ?

In[1]:= N[1,100]//Precision

Out[1]= 100.

Rolf

On Thursday 29 May 2003 22:10, Arnd Roth wrote:
> Lieber Rolf,
>
> >Weiss jemand warum
> >N[0] zwar (in 4.2)  0.  ist, aber
> >N[0,100]   die exakte  0  ??
>
> ich denke es ist deshalb exakt 0, weil es andernfalls Probleme gäbe,
> die Precision[] von N[0, 100] zu definieren.
>
> Viele Grüße,
>
> Arnd