WCM Forum

WCM Forum (http://www.wcm.at/forum/index.php)
-   Programmierung (http://www.wcm.at/forum/forumdisplay.php?f=17)
-   -   java - runden auf bestimmte dezimalstellenanzahl (http://www.wcm.at/forum/showthread.php?t=49138)

JosefS 10.03.2002 19:45

Zitat:

Original geschrieben von RaistlinMajere
ist ein interessantes verfahren, nur bist du dir sicher, daß das nicht
Code:

dNeueZahl = (double) ((int) (zahl * 100)) / 100;
heißen sollte?

außerdem hat das ganze einen haken, du bekommst nämlich als ergebnis 1234.56, die letzte stelle wird also nicht gerunden, sondern es werden lediglich die unerwünschten kommastellen abgeschnitten.

hm... okok hab die klammern vergessen

Code:

dNeueZahl = (double) ((int) (zahl * 100) + 5) / 100;
und schon isses auch gerundet ;-)

RaistlinMajere 10.03.2002 20:03

verstehe ich nicht, verfolg das doch mal:

zahl * 100 ergibt 123456.789
dann machst daraus nen integer, wird also 123456
dann +5, also 123461
dann machst ein double daraus, also 123461.0
und dann /100, also 1234.61

stimmt aber nicht, es sollte 1234.57 rauskommen, das wäre korrekt auf 2 stellen gerunden.

JosefS 10.03.2002 20:15

Zitat:

Original geschrieben von RaistlinMajere
verstehe ich nicht, verfolg das doch mal:

zahl * 100 ergibt 123456.789
dann machst daraus nen integer, wird also 123456
dann +5, also 123461
dann machst ein double daraus, also 123461.0
und dann /100, also 1234.61

stimmt aber nicht, es sollte 1234.57 rauskommen, das wäre korrekt auf 2 stellen gerunden.

hm... vieleicht sollte ich mal was nachrechnen, bevor ich einfach so poste!
dann halt:

dNeueZahl = (double) ((int) (zahl * 100 + 0.5)) / 100;

1234.56789 * 100 = 123456.789
123456.789 + 0.5 = 123457.289
int ( 123457.289 ) = 123457
123457/100 = 1234.57

hab mich um eine kommastelle vertan...

RaistlinMajere 10.03.2002 20:38

ja, jetzt passts. aber... wieso grad 0.5, wie bist du da drauf gekommen?

moorhahn 10.03.2002 20:43

wenn man es mit (int) castet, dann wird es ja nicht gerundet, sondern es werden einfach die kommastellen weggelassen, oder? in Math gibt es sicher was mit dem du es runden kannst, wenn du z.b. jbuilder von borland verwendest, müsste der dir eigentlich das zeug anzeigen wenn du Math. schreibst.
wenn du den string nimmst mit dem du das unformatierst, kannst du ja den string wieder in double umwandeln, mit doble.parseDouble(zahlstring), oder?

JosefS 10.03.2002 20:47

Zitat:

Original geschrieben von RaistlinMajere
ja, jetzt passts. aber... wieso grad 0.5, wie bist du da drauf gekommen?
denk mal selber drüber nach ;-)

beispiele:

1.34 gerundet = 1.3
1.35 gerundet = 1.4
dh. ab .5 wird die vorige stelle aufgerundet.
na, was muss man dann dazuzuählen, dass bis .4 nix ist und erst ab .5 die zahl vorige zahl um 1 erhöht wird? genau 0.05
und das ganze geht natürlich beliebig nach hinten...

:D

JosefS 10.03.2002 20:51

Zitat:

Original geschrieben von moorhahn
wenn man es mit (int) castet, dann wird es ja nicht gerundet, sondern es werden einfach die kommastellen weggelassen, oder? in Math gibt es sicher was mit dem du es runden kannst, wenn du z.b. jbuilder von borland verwendest, müsste der dir eigentlich das zeug anzeigen wenn du Math. schreibst.
wenn du den string nimmst mit dem du das unformatierst, kannst du ja den string wieder in double umwandeln, mit doble.parseDouble(zahlstring), oder?

eine zahl in string umwandeln um sie dann zu runden und wieder zurück ist mit kanonen auf spatzen schießen :utoh:

Tarjan 10.03.2002 22:19

Warum verwendet ihr nicht die Math.round() Funktion? Die ist für das geschrieben worden:

doubleZahl = ((double)Math.round(doubleZahl * 100)) / 100

RaistlinMajere 10.03.2002 22:53

Zitat:

Original geschrieben von Tarjan
Warum verwendet ihr nicht die Math.round() Funktion? Die ist für das geschrieben worden:

doubleZahl = ((double)Math.round(doubleZahl * 100)) / 100

stimmt, simpler dürfte es wohl nicht mehr gehen.

Tarjan 11.03.2002 09:32

Bin nacher noch draufgekommen, geht auch ohne expliziten Cast:
doubleZahl = Math.round(doubleZahl * 100) / 100.0


Alle Zeitangaben in WEZ +2. Es ist jetzt 23:45 Uhr.

Powered by vBulletin® Copyright ©2000 - 2025, Jelsoft Enterprises Ltd.
© 2009 FSL Verlag