Suchergebnisse für Anfrage "floating-point-precision"

4 die antwort

Umwandeln von Int in Float verliert die Präzision für große Zahlen in Swift

XCode 6.3.1 Swift 1.2 let value: Int = 220904525 let intmax = Int.max let float = Float(value) // Here is an error probably let intFromFloat = Int(float) let double = Double(value) println("intmax=\(intmax) value=\(value) ...

20 die antwort

Ist Gleitkommapräzision veränderbar oder unveränderlich?

Ich erhalte immer wieder gemischte Antworten, ob Gleitkommazahlen (d. H.float, double, oderlong double) einen und nur einen Genauigkeitswert haben oder einen Genauigkeitswert haben, der variieren kann. Ein Thema namensfloat vs. double ...

TOP-Veröffentlichungen