DMUG-Archiv 2005

Frühere   Chronologischer Index   Spätere
Vorherige   Thematischer Index   Nächste

Table Import: Precision

Hallo, 
 
beim Importieren von Daten 
 
A = Import[matrix.dat, Table] 
 
scheint die Werte auf sechs Nachkommastellen begrenzt zu werden: 
 
N[A[[1, 1]], 10] 
3.14159 
 
auch wenn in matrix.dat die Zahlen mit höherer Präzision angegeben sind. Ein Notebook mit Beschreibung liegt bei (und 
die Datei matrix.dat). Wo liegt der Denkfehler? Was ist der Mechanismus, der N[...] auf weniger Stellen begrenzt, als 
die Zahl zu haben scheint. 
 
Vielen Dank, 
Uli Schwarz 
 
 

PD Dr. Ulrich T. Schwarz
Institute for Experimental and Applied Physics
University of Regensburg
93040 Regensburg, Germany
Tel: (++49) 941-943 2113
http://homepages.uni-regensburg.de/~scu04188



<<attachment: ImportPrecision.nb>>

<<attachment: matrix.dat>>

Antworten:
Frühere   Chronologischer Index   Spätere
Vorherige   Thematischer Index   Nächste

DMUG DMUG-Archiv, http://www.mathematica.ch/archiv.html