Hi
MySQL Version: 5.0.32-Debian_7etch1-log
Ich habe ein Problem: Ich summiere in zwei verschiedenen Abfragen die gleichen double-Werte mit der Funktion SUM(). Bekomme aber nicht das gleiche Resultat (Unterschied beträgt 1.1). Zu sagen ist noch, dass diese double-Werte durch eine MySQL Funktion schon einmal mit SUM() summiert werden bevor sie von der Abfrage bearbeitet wird.
Zu den Werten:
Es handelt sich dabei wie schon gesagt um double-Werte und der grösste besitzt 6 Vorkommastellen. Zudem gibt es Werte mit maximal 15 Nachkommastellen (Wobei diese, sollte es nicht anderst gehen auch auf weniger Nachkommastellen gerundet werden dürfen)
Dass eine 100%ige Genauigkeit beim Summieren nicht erreicht werden kann ist klar, aber ein unterschied von 1.1 ist leider zu ungenau. Min. eine Kommastelle muss stimmen (somit 2 Kommastellen.. damit richtig gerundet wird)
Habt ihr da eine Idee/Lösungsvorschlag ?
Gruss
MySQL Version: 5.0.32-Debian_7etch1-log
Ich habe ein Problem: Ich summiere in zwei verschiedenen Abfragen die gleichen double-Werte mit der Funktion SUM(). Bekomme aber nicht das gleiche Resultat (Unterschied beträgt 1.1). Zu sagen ist noch, dass diese double-Werte durch eine MySQL Funktion schon einmal mit SUM() summiert werden bevor sie von der Abfrage bearbeitet wird.
Zu den Werten:
Es handelt sich dabei wie schon gesagt um double-Werte und der grösste besitzt 6 Vorkommastellen. Zudem gibt es Werte mit maximal 15 Nachkommastellen (Wobei diese, sollte es nicht anderst gehen auch auf weniger Nachkommastellen gerundet werden dürfen)
Dass eine 100%ige Genauigkeit beim Summieren nicht erreicht werden kann ist klar, aber ein unterschied von 1.1 ist leider zu ungenau. Min. eine Kommastelle muss stimmen (somit 2 Kommastellen.. damit richtig gerundet wird)
Habt ihr da eine Idee/Lösungsvorschlag ?
Gruss
