![]() |
![]() |
|
![]() |
![]() |
|
Programmierung Rat & Tat für Programmierer |
![]() |
|
Themen-Optionen | Ansicht |
![]() |
#1 |
Senior Member
![]() Registriert seit: 09.07.2000
Alter: 51
Beiträge: 155
|
![]() Hi @all !
Rechnet nur mein Excel2000 falsch oder auch andere ? Probiert doch mal folgendes: Gebt in Zelle A1 0,01 ein, zählt in Zelle A2 0,01 dazu u.s.w bis ca. Zelle A500 (=5) In Spalte B zieht ihr 0,1 von Spalte A ab In Spalte C zieht ihr 0,2 von Spalte A ab In Spalte D zieht ihr 0,3 von Spalte A ab u.s.w Das könnt ihr jetzt so weit wie ihr wollt machen..... Formatiert alle Spalten auf 'Zahl' mit mind. 20 Kommastellen und seht euch das Ergebnis an: Es haben sich Fehler in den Kommastellen eingeschlichen - aber nicht überall ! Weiß jemand warum das so ist und wie man es umgehen kann ? Wäre für Hilfe dankbar Bye ------------------ KaSiKeS --------------------- !!! CARPE NOCTUM !!! --------------------- |
![]() |
![]() |
![]() |
#2 |
Master
![]() |
![]() was ´n glück, das währungsformate für umrechnungen maximal 5 nachkommastellen brauchen, da komme ich nicht in schwulitäten ;-)
mfg, randalica |
![]() |
![]() |
![]() |
#3 |
Senior Member
![]() |
![]() Hi
@randalica: bin auch der Meinung! "mind.20 Kommastellen"?????? ------------------ Ciao <<<<<<<< MAPILU >>>>>>>> [Dieser Beitrag wurde von Mapilu am 03. Oktober 2000 editiert.] |
![]() |
![]() |
![]() |
#4 |
Inventar
![]() Registriert seit: 23.03.2000
Ort: Graz
Alter: 71
Beiträge: 3.567
|
![]() Nein, Excel rechnet nicht falsch. Das Problem liegt in der Tatsache, dass ein Computer im Binärsystem rechnet und die Mehrheit der Dezimalbrüche nicht als endliche Binärzahl darstellbar ist. Es kommt also in der Regel bei der Übersetzung der in Excel eingetippten oder berechneten Dezimalzahl in eine Binärzahl zu einem Rundungsfehler (genauer gesagt zu einem Fehler durch Abschneiden der unendlich periodischen Binärzahl). Dieser ist sehr klein, kann aber mit 20 Dezimalstellen und ein wenig Arithmetik natürlich sichtbar gemacht werden.
Ciao |
![]() |
![]() |
![]() |
Aktive Benutzer in diesem Thema: 1 (Registrierte Benutzer: 0, Gäste: 1) | |
|
|