Hallo zusammen.
Ich bin gerade etwas ratlos und deshalb möchte ich euch um Hilfe bitten.
Hier mein Code-Ausschnitt:

Code :

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22

Dim betr, betrNeu, betrGanz As Double   'Variablen werden im Programm mit diesen Werten gefüllt 'betr = 45,01 'mww = 0,19               betrGanz = Fix(betr)             If (betr - betrGanz) = 0.01 Then                 MsgBox ("0,01 zu viel")                 betrNeu = (betr - 0.01) / (100 + (100 * mww)) * 100                 If Aol_Roundcc(betrNeu) = nbetr Then                     MsgBox ("Betrag wurde geändert")                     betr = betrNeu                 End If             ElseIf (betr - Fix(betr)) = 0.99 Then                 MsgBox ("0,01 zu wenig")                 betrNeu = (betr + 0.01) / (100 + (100 * mww)) * 100                 If Aol_Roundcc(betrNeu) = nbetr Then                     MsgBox ("Betrag wurde geändert")                     betr = betrNeu                 End If             End If

So. Wenn ich jetzt bei der 1. If-Abfrage bin bekomme ich bei der Subtraktion zwischen 45,01 und 45 das Ergebnis 9,99999998 -3E herraus. Was mache ich falsch?

Hallo,

das Ergebniss tritt wegen Rundungsungenauigkeiten auf, ist aber fast richtig. Jage das Ergebnis einfach durch eine Rundungsfunktion durch und runde auf 2 Stellen.

9,99999998 -3E == 0,00999999999....

Gruß
BK

Vielen Dank!
Da wäre ich von alleine nicht drauf gekommen.

Im Übrigen ist die Dimensionierung so nicht richtig. Ich vermute, dass
betr, betrNeu, betrGanz alle als Double dimensioniert sein sollen.
Daaklappt so aber nicht, da musst Du das so machen:

Code vb:

1	Dim Betr as double, betrNeu as double, betrGanz as Double

Ansonsten werden in VB6 die ersten beiden Felder als Object dimensioniert.