3
SQL SERVER 2000, round() liefert falsches Ergebnis
Falsches Rundungsergebnis der round()-Funktion
Wieso liefert round ( x * 0.1, 2) bei x = 6,75 richtigerweise 0,68; bei 6,85 aber auch 0,68 (statt 0,69) ?
x ist entweder ein char() Datentyp oder wird über ein Textfeld eingegeben.
Gleiches Ergebnis in einem Access 2000 Project, welches die math. Fkt. über UPDATE auswertet...
Herzlichen Dank für Hilfe,
PCFJKG
Wieso liefert round ( x * 0.1, 2) bei x = 6,75 richtigerweise 0,68; bei 6,85 aber auch 0,68 (statt 0,69) ?
x ist entweder ein char() Datentyp oder wird über ein Textfeld eingegeben.
Gleiches Ergebnis in einem Access 2000 Project, welches die math. Fkt. über UPDATE auswertet...
Herzlichen Dank für Hilfe,
PCFJKG
Auf Facebook teilen
Auf Twitter teilen
Auf Reddit teilen
Auf Linkedin teilenBitte markiere auch die Kommentare, die zur Lösung des Beitrags beigetragen haben
Content-ID: 57390
Url: https://administrator.de/contentid/57390
Ausgedruckt am: 24.11.2024 um 04:11 Uhr
3 Kommentare
Neuester Kommentar
X ein Char Datentyp und Du kannst mit ihm direkt Rechnen?
Kann ich eigentlich nicht glauben, bei mir kommen dann solche Fehlermeldungen wie: Error converting data type varchar to numeric.
Aber um auf das Runden zurückzukommen, 0,68 und 0,67 kann in Standard Float Form nicht genau abgespeichert werden, da die binäre Speicherung des Float Formats das nicht zulässt.
Daher sind die Ergebnisse des Round, wenn man es genau anzeigen lässt 0.68000000000000005 und 0.68999999999999995. Wenn Du davon nur 2 Stellen anzeigen lässt, gibts halt nur 0,68.
Für solche Fälle gibts übrigens den Datentyp Decimal, da passiert sowas nicht.
Kann ich eigentlich nicht glauben, bei mir kommen dann solche Fehlermeldungen wie: Error converting data type varchar to numeric.
Aber um auf das Runden zurückzukommen, 0,68 und 0,67 kann in Standard Float Form nicht genau abgespeichert werden, da die binäre Speicherung des Float Formats das nicht zulässt.
Daher sind die Ergebnisse des Round, wenn man es genau anzeigen lässt 0.68000000000000005 und 0.68999999999999995. Wenn Du davon nur 2 Stellen anzeigen lässt, gibts halt nur 0,68.
Für solche Fälle gibts übrigens den Datentyp Decimal, da passiert sowas nicht.
Erst einmal danke für die schnelle Antwort. Ich ging bis dato davon aus, dass SQL 2000 eine implizite Konvertierung der Datentypen vornimmt (von z.B. char zu decimal etc.), möglicherweise muss dies aber noch irgendwo "eingestellt" werden (?).
Zur Sache selbst klingt Deine Erklärung logisch, werde es heute Abend probieren, vielleicht mit CAST() vorher Typumwandlung, dann brauche ich die Tabellendefinitionen nicht zu ändern, die ich mir damals leider nicht gründlich genug überlegt hatte ...
Nochmals Dank und herzliche Grüße
PCFJKG
Zur Sache selbst klingt Deine Erklärung logisch, werde es heute Abend probieren, vielleicht mit CAST() vorher Typumwandlung, dann brauche ich die Tabellendefinitionen nicht zu ändern, die ich mir damals leider nicht gründlich genug überlegt hatte ...
Nochmals Dank und herzliche Grüße
PCFJKG
Im Prinzip ist hier sogar CAST besser als ROUND.
CAST(x*0.1 as decimal(18,2)) bzw. was anderes als 18, je nachdem wieviele Stellen vor dem Komma Du brauchst.
Wenn x jetzt keine Zahl ist:
Cast(Cast(x as float)*0.1) as decimal(18,2))
(Als erstes float genommen, weil Rechnen mit decimal langsamer ist als mit float)
Bei Decimal gibt es nämlich dann wirklich nur x Nachkommastellen und genau auf die wird gerundet, während round halt soviel Nachkommastellen hat, wie der zugrundeliegende Datentyp und halt nur den Wert rundet, so genau wie es geht.
CAST(x*0.1 as decimal(18,2)) bzw. was anderes als 18, je nachdem wieviele Stellen vor dem Komma Du brauchst.
Wenn x jetzt keine Zahl ist:
Cast(Cast(x as float)*0.1) as decimal(18,2))
(Als erstes float genommen, weil Rechnen mit decimal langsamer ist als mit float)
Bei Decimal gibt es nämlich dann wirklich nur x Nachkommastellen und genau auf die wird gerundet, während round halt soviel Nachkommastellen hat, wie der zugrundeliegende Datentyp und halt nur den Wert rundet, so genau wie es geht.
