Ungenauer Double-Wert

[ShadowMan]

Hi zusammen!

Ich habe folgendes Problem:

d = l2 / f5;

...ergibt einen ungenauen double-Wert, weiss aber leider nicht wieso das der Fall ist (will ned wissen was ich anders machen muss damits geht *g*)

l2 ist ein long-Wert (2) und f5 ein Wert vom Typ float (5)

rauskommen müsste 0.4, dies ist aber nicht der Fall, sobald eine der beiden Variablen nicht vom Typ float oder double ist.

Weiss jemand von euch warum dies der Fall ist?!


Liebe Grüße und danke für eure Hilfe,

Shadow ;-]

 

[Thomas Darimont]

Servus!

schau mal hier:

http://www.javabuch.de/download.html

Kapitel 4 Seite 102 | Datentypen -> Typenkonvertierungen -> Standardkonvertierungen ...

Gruß Tom

 

[tuxracer]

dies ist deswegen, weil der Floitingpointoperator, der zuständig ist für alle Kommazahlen, bei einer bestimmten Anzahl Stellen Fertig ist



dadurch gibt es Probleme mit der Genauigkeit, was aber eigentlich kein Problem darstellt.

Es kann nur ab und an mal das Problem entstehen, dass man ab und an bei ner Abfrage auf dieses achten muss, weil sonst unter umständen ne Abruch bedingung in ner Endlosschleife endet, weil nicht der erwartete wert rauskommt.