marabunta
Goto Top

Powershell kann nicht rechnen

eigentlich ganz simpel das steckt in einer while schleife und wird daher wiederholt, die schleife hat hiermit aber nichts zu tun

[float]$a=0
if($a -ge "181"){  
$a=0
}
else{
$a=$a+0.05
$a
}

0,05
0,1
0,15
0,2
0,25
0,3
0,35
0,4
0,45
0,5000001
0,5500001
0,6000001
0,6500001
0,7000001
0,7500001
0,8000001
0,8500001
0,9000002
0,9500002
1   
1,05
1,1
1,15
1,2
1,25
1,3
1,35
1,4
1,45
1,5
1,55
1,6
1,649999
1,699999
1,749999
1,799999
1,849999
1,899999
1,949999
1,999999
2,049999
2,099999
2,149999
2,199999

was soll das?

Content-ID: 271352

Url: https://administrator.de/forum/powershell-kann-nicht-rechnen-271352.html

Ausgedruckt am: 11.04.2025 um 09:04 Uhr

Clijsters
Clijsters 07.05.2015 um 11:52:01 Uhr
Goto Top
eigentlich ganz simpel
Ein Hallo ist auch ganz simpel.

was soll das?
Das kannst nur du wissen.

Falls die Frage sich aber eventuell darauf bezieht, dass du manchmal 6 Nachkommastellen hast und manchmal nicht und das von dir nicht gewünscht ist, schau mal hier vorbei...

was soll das?
Dir auch beste Grüße...
Clijsters
Clijsters 07.05.2015 um 11:55:05 Uhr
Goto Top
Und nur mal so nebenbei.
Hättest du eventuell das probiert, hättest du auch sowas gefunden.

Bitte entschuldige die gemeine Ader. Ich hoffe, du verstehst, woher das stammt.

Beste Grüße
Dominique
colinardo
Lösung colinardo 07.05.2015 aktualisiert um 23:31:00 Uhr
Goto Top
Moin,
Powershell kann schon, wenn man weiß wie es im Hintergrund aussieht face-wink
"floating point" Berechnungen auf Computern sind nicht immer exakt, wenn eine feste Anzahl an Dezimalstellen gewünscht sind.
Benutze als Typ stattdessen [decimal] wenn du ein festes Interval addieren willst, oder runde das Ergebnis [math]::round($a,2) wenn du mit Float arbeitest.

Siehe auch:
http://stackoverflow.com/questions/566958/double-precision-problems-on- ...

Grüße Uwe