Einzelnen Beitrag anzeigen
Alt 03.10.2000, 18:51   #1
FranzK
Inventar
 
Registriert seit: 23.03.2000
Ort: Graz
Alter: 71
Beiträge: 3.567


Beitrag

Nein, Excel rechnet nicht falsch. Das Problem liegt in der Tatsache, dass ein Computer im Binärsystem rechnet und die Mehrheit der Dezimalbrüche nicht als endliche Binärzahl darstellbar ist. Es kommt also in der Regel bei der Übersetzung der in Excel eingetippten oder berechneten Dezimalzahl in eine Binärzahl zu einem Rundungsfehler (genauer gesagt zu einem Fehler durch Abschneiden der unendlich periodischen Binärzahl). Dieser ist sehr klein, kann aber mit 20 Dezimalstellen und ein wenig Arithmetik natürlich sichtbar gemacht werden.

Ciao
FranzK ist offline   Mit Zitat antworten