ERLEDIGT
NEIN
NEIN
ANTWORTEN
0
0
ZUGRIFFE
329
329
EMPFEHLEN
-
28.10.09 15:15 #1
- Registriert seit
- Nov 2007
- Beiträge
- 94
Guten Nachmittag,
Ich verzweifle hier gerade an meinem VB berechnungsprogramm.
Mir wurde die Aufgabe gestellt das ich ein Programm schrieben soll, welches mit Hex Werten Rechnen kann.
0x980433D5 * 0x41C64E6D + 0x6073 ist die gleichung welche gelöst werden soll.
Berechne ich das per Hand, Taschenrechner oder PHP bekomme ich 0x270ED2FB2D535824 als Ergebniss, was auch stimmt. vb allerdings spuckt mir jedesmal 0xE548848E2D534F9 aus.
Folgende codes habe ich bereits versucht:
Code :1 2
Dim sErg As String sErg = CDec(&H980433D5) * CDec(&H41C64E6D) + CDec(&H6073)
Code :1 2
Dim sErg As String sErg = &H980433D5 * &H41C64E6D + &H6073
Woran kann das liegen, das VB immer abweichende werte bekommt? ( das gilt für alle Rechnungen in diesem Größenbereich)
Ich benutze VB 6 habe es aber auch im .net versucht wo das Resultat das selbe ist.
lg
Ähnliche Themen
-
double Berechnungsfehler
Von ProgFreak im Forum C/C++Antworten: 3Letzter Beitrag: 30.12.05, 00:00





Zitieren
Login





