WCM - Das österreichische Computer Magazin Forenübersicht
 

Zurück   WCM Forum > Rat & Tat > Programmierung

Programmierung Rat & Tat für Programmierer

Microsoft KARRIERECAMPUS

Antwort
 
Themen-Optionen Ansicht
Alt 30.09.2000, 19:29   #1
Kasikes
Senior Member
 
Registriert seit: 09.07.2000
Alter: 51
Beiträge: 155


Beitrag

Hi @all !

Rechnet nur mein Excel2000 falsch oder auch andere ?

Probiert doch mal folgendes:
Gebt in Zelle A1 0,01 ein,
zählt in Zelle A2 0,01 dazu u.s.w
bis ca. Zelle A500 (=5)

In Spalte B zieht ihr 0,1 von Spalte A ab
In Spalte C zieht ihr 0,2 von Spalte A ab
In Spalte D zieht ihr 0,3 von Spalte A ab u.s.w

Das könnt ihr jetzt so weit wie ihr wollt machen.....

Formatiert alle Spalten auf 'Zahl' mit mind. 20 Kommastellen und seht euch das Ergebnis an:
Es haben sich Fehler in den Kommastellen eingeschlichen - aber nicht überall !

Weiß jemand warum das so ist und wie man es umgehen kann ?

Wäre für Hilfe dankbar

Bye


------------------
KaSiKeS

---------------------
!!! CARPE NOCTUM !!!
---------------------
Kasikes ist offline   Mit Zitat antworten
Alt 02.10.2000, 21:52   #2
randalica
Master
 
Registriert seit: 23.01.2000
Beiträge: 555


randalica eine Nachricht über ICQ schicken
Beitrag

was ´n glück, das währungsformate für umrechnungen maximal 5 nachkommastellen brauchen, da komme ich nicht in schwulitäten ;-)

mfg,
randalica
randalica ist offline   Mit Zitat antworten
Alt 03.10.2000, 15:33   #3
Mapilu
Senior Member
 
Registriert seit: 18.09.2000
Beiträge: 180


Mapilu eine Nachricht über ICQ schicken
Idee

Hi
@randalica: bin auch der Meinung!
"mind.20 Kommastellen"??????

------------------
Ciao <<<<<<<< MAPILU >>>>>>>>

[Dieser Beitrag wurde von Mapilu am 03. Oktober 2000 editiert.]
Mapilu ist offline   Mit Zitat antworten
Alt 03.10.2000, 18:51   #4
FranzK
Inventar
 
Registriert seit: 23.03.2000
Ort: Graz
Alter: 71
Beiträge: 3.567


Beitrag

Nein, Excel rechnet nicht falsch. Das Problem liegt in der Tatsache, dass ein Computer im Binärsystem rechnet und die Mehrheit der Dezimalbrüche nicht als endliche Binärzahl darstellbar ist. Es kommt also in der Regel bei der Übersetzung der in Excel eingetippten oder berechneten Dezimalzahl in eine Binärzahl zu einem Rundungsfehler (genauer gesagt zu einem Fehler durch Abschneiden der unendlich periodischen Binärzahl). Dieser ist sehr klein, kann aber mit 20 Dezimalstellen und ein wenig Arithmetik natürlich sichtbar gemacht werden.

Ciao
FranzK ist offline   Mit Zitat antworten
Antwort


Aktive Benutzer in diesem Thema: 1 (Registrierte Benutzer: 0, Gäste: 1)
 

Forumregeln
Es ist Ihnen nicht erlaubt, neue Themen zu verfassen.
Es ist Ihnen nicht erlaubt, auf Beiträge zu antworten.
Es ist Ihnen nicht erlaubt, Anhänge hochzuladen.
Es ist Ihnen nicht erlaubt, Ihre Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.

Gehe zu


Alle Zeitangaben in WEZ +2. Es ist jetzt 12:49 Uhr.


Powered by vBulletin® Copyright ©2000 - 2025, Jelsoft Enterprises Ltd.
Forum SEO by Zoints
© 2009 FSL Verlag