EXCEL2000 rechnet falsch !!!

FranzK · 03.10.2000, 18:51

Nein, Excel rechnet nicht falsch. Das Problem liegt in der Tatsache, dass ein Computer im Binärsystem rechnet und die Mehrheit der Dezimalbrüche nicht als endliche Binärzahl darstellbar ist. Es kommt also in der Regel bei der Übersetzung der in Excel eingetippten oder berechneten Dezimalzahl in eine Binärzahl zu einem Rundungsfehler (genauer gesagt zu einem Fehler durch Abschneiden der unendlich periodischen Binärzahl). Dieser ist sehr klein, kann aber mit 20 Dezimalstellen und ein wenig Arithmetik natürlich sichtbar gemacht werden.

Ciao

03.10.2000, 18:51	#1
FranzK Inventar Registriert seit: 23.03.2000 Ort: Graz Alter: 71 Beiträge: 3.567	Nein, Excel rechnet nicht falsch. Das Problem liegt in der Tatsache, dass ein Computer im Binärsystem rechnet und die Mehrheit der Dezimalbrüche nicht als endliche Binärzahl darstellbar ist. Es kommt also in der Regel bei der Übersetzung der in Excel eingetippten oder berechneten Dezimalzahl in eine Binärzahl zu einem Rundungsfehler (genauer gesagt zu einem Fehler durch Abschneiden der unendlich periodischen Binärzahl). Dieser ist sehr klein, kann aber mit 20 Dezimalstellen und ein wenig Arithmetik natürlich sichtbar gemacht werden. Ciao

Aktive Benutzer in diesem Thema: 1 (Registrierte Benutzer: 0, Gäste: 1)