Warum haben diese beiden float64 unterschiedliche Werte?

Betrachten Sie diese beiden Fälle: fmt.Println(912 * 0.01) fmt.Println(float64(912) * 0.01)( Go Playground Link [http://play.golang.org/p/k3OLoemaA8]) Der zweite druckt 9.120000000000001, was eigentlich in Ordnung ist,ch verstehe, warum das ...

Den Dezimalteil eines Double in Swift erhalten

Ich versuche, die Dezimal- und Ganzzahlteile eines Double in Swift zu trennen. Ich habe eine Reihe von Ansätzen ausprobiert, aber alle stoßen auf dasselbe Problem ... let x:Double = 1234.5678 let n1:Double = x % 1.0 // n1 = 0.567800000000034 ...

For-Schleife in C ++ mit Double Breakout einen Schritt früher, Grenzwert nicht erreicht

c ++ fmod gibt 0.2 für fmod (0.6,0.2) zurück

wenn ich fmod (0.6.0.2) in c ++ verwende, gibt es 0.2 zurück Ich weiß, dass dies durch Gleitkommagenauigkeit verursacht wird, aber es scheint, dass ich in diesem Moment den Rest von zwei Doppelten bekommen muss ielen Dank für alle Lösungen für ...

Warum liefern Operationen mit Werten mit doppelter Genauigkeit keine erwarteten Ergebnisse?

System.out.println(2.14656); 2.14656 System.out.println(2.14656%2); 0.14656000000000002 WTF?

float seltsame Ungenauigkeit Fehler in c [duplizieren]

Diese Frage hat hier bereits eine Antwort: Ist Gleitkomma-Mathematik kaputt? [/questions/588004/is-floating-point-math-broken] 28 answerstoday passierte mir etwas Seltsames, als ich versuchte, die Ausgabe dieses Codes zu kompilieren ...

Suchen Sie den nächstgelegenen Gleitkommawert in C ++, der kleiner als ein bestimmter ganzzahliger Wert ist?

Ich habe einen Gleitkomma-Eingabewert, der 0.0f <= value <1.0f ist (notiere weniger als eins).Wenn dieser Wert mit einem größeren Bereich multipliziert...

Python Gleitkomma willkürliche Genauigkeit verfügbar?

Nur zum Spaß und weil es wirklich einfach war, habe ich ein kurzes Programm geschrieben, um es zu generierenZahlen pfropfenAufgrund von Gleitkommapräzisionsp...

Das Ergebnis des Castings von double nach int ist falsch

Es scheint einen obskuren Rundungsfehler zu geben, wenn ich den folgenden Code ausführe:

Exakte Textdarstellung eines IEEE-Double

Ich muss eine doppelte (64-Bit) Gleitkommazahl nach IEEE 754-1985 in einer für Menschen lesbaren Textform darstellen, unter der Bedingung, dass die Textform erneut analysiert werden kanngenau die gleiche (bitweise) Zahl. Ist das möglich / ...