Suchergebnisse für Anfrage "floating-point-conversion"
Umwandeln von Int in Float verliert die Präzision für große Zahlen in Swift
XCode 6.3.1 Swift 1.2 let value: Int = 220904525 let intmax = Int.max let float = Float(value) // Here is an error probably let intFromFloat = Int(float) let double = Double(value) println("intmax=\(intmax) value=\(value) ...
Wie ändere ich eine float64-Nummer richtig in uint64?
package main func main() { var n float64 = 6161047830682206209 println(uint64(n)) } Die Ausgabe wird sein: 6161047830682206208 Es sieht so aus, wennfloat64 ändernuint64, der Bruch wird verworfen.
Gleitkommapräzision begrenzen?
Gibt es eine Möglichkeit, Gleitkommazahlen auf 2 Punkte abzurunden? Z.B.:3576.7675745342556 wird3576.76.
Probleme im Gleitkommavergleich [duplizieren]
Diese Frage hat hier bereits eine Antwort: seltsame Ausgabe im Vergleich von float mit float-Literal [/questions/1839422/strange-output-in-comparison-of-float-with-float-literal] 8 answersvoid main() { float f = 0.98; if(f <= 0.98) printf("hi"); ...
Seite 2 von 2