Hallo,
natürlich ist mir klar, daß dem Rechner nur endliche Stellen für die Darstellung von (möglicherweise)
unendlichen Zahlen zu Verfügung steht, aber mir war nicht bewußt, daß sich der numerische Fehler
schon bei Zahlen im Bereich von 10^(-17) auswirkt. Bei z.B. einem Float Bereich von -10^(38) bis
+10^(-38) bedeutet das ja, das man (wenn der Fehler auch im oberen Bereich auftritt) die Hälfte der
Zahlen als Wackelkandidaten ansehen muß ! Wenn ich mal davon ausgehe, daß hier double
verwendet wird, der in einem Wertebereich von ca. 10^(300) bis ca. -10^(-300), dann finde ich den
sicheren numerischen Bereich NOCH dünner. Für wissenschaftliche Anwendung hat die errechnete
Lösung also unter Umständen einen Schätzungscharakter. So wie Pi auch 3 ist...
Winn
Jens-Peer Kuska schrieb am 28.05.2003 23:32:54:
Hallo,
was ist an einem Fehler von Maximal 0.00000000000000003 oder
3 * 10^(-17) auszusetzen ??
Ausserdem mag es ja schon sein, das eine Zahl im Dezimalsystem
endlich viele Dezimalstellen hat, das muss aber im Bin"arsystem,
das der Rechner verwendet nicht so sein, 0.2 l"asst sich im Bin"aren
nur mit undenlich vielen Stellen darstellen, tja und wenn das Ergebnis
die 0.2 erreicht ist - welche "Uberraschung - dann auch der
Fehler ein bischen gr"osser ...
Gruss
Jens
________________________________________________________________
Mit der Grupppen-SMS von WEB.DE FreeMail können Sie eine SMS an alle
Freunde gleichzeitig schicken: http://freemail.web.de/features/?mc=021179