Suchergebnisse für Anfrage "floating-point"
Python Gleitkommazahlenvergleich
Ich überprüfe nur einige Grundlagen von Python und es gibt ein kniffliges Problem beim Vergleichen von Gleitkommazahlen. 2.2 * 3.0 == 6.6 3.3 * 2.0 == 6.6Ich dachte, beide sollten False zurückgeben. Der zweite gab mir jedoch einen True. Bitte ...
Wie schnell überprüfen, ob Double in Float passt? (Java
Bei einigen arithmetischen oder bitweisen Operationen kann überprüft werden, ob ein Double ohne Genauigkeitsverlust in einen Float passt. Es sollte nicht nur überprüft werden, ob der doppelte Bereich im Gleitkommabereich liegt, sondern auch, ...
Warum bleibt das Hinzufügen von 0,1 mehrfach verlustfrei?
Ich kenne das0.1 Dezimalzahl kann nicht exakt mit einer endlichen Binärzahl dargestellt werden Erläuterun [http://www.exploringbinary.com/why-0-point-1-does-not-exist-in-floating-point/] ), sodouble n = 0.1 wird etwas an Präzision verlieren und ...
C #: Byte-Array in ein float konvertieren
Ich habe ein Byte-Array der Größe 4 byte[] source = new byte[4];Nun wollte ich diese Quelle in einen 4-Byte-Gleitkommawert konvertieren ... Kann mir jemand sagen, wie das geht ...
bytes konvertieren in float (php)
Wie kann ich in PHP von Bytes zu Float konvertieren? Wie in Java int i = (byte3 & 0xff) << 24 | (byte2 & 0xff) << 16 | (byte1 & 0xff) << 8 | byte0 & 0xff; Float.intBitsToFloat(i);
Umwandlung von 4 Rohbytes in 32-Bit-Gleitkomma
Ich versuche, einen 32-Bit-Gleitkommawert aus einem EEPROM zu rekonstruieren. Die 4 Bytes im EEPROM-Speicher (0-4) lauten: B4 A2 91 4D und der PC (VS Studio) rekonstruiert es korrekt als 3.054199 * 10 ^ 8 (der Gleitkommawert, den ich kenne, ...
Warum implementiert Rust keine Gesamtbestellung über das Ord-Merkmal für f64 und f32?
Während alle Integer-Typen in Rust implementierenOrd [http://doc.rust-lang.org/std/cmp/trait.Ord.html] was die Gesamtreihenfolge betont, implementieren die Gleitkommatypen nurPartialOrd [http://doc.rust-lang.org/std/cmp/trait.PartialOrd.html]. ...
Floating Point Arithmetik ist zu zuverlässig
Ich verstehe, dass Gleitkommaarithmetik, wie sie in modernen Computersystemen ausgeführt wird, nicht immer mit reeller Arithmetik konsistent ist. Ich versuche, ein kleines C # -Programm zu erfinden, um dies zu demonstrieren. z.B static void ...
Warum erhalte ich ein anderes Ergebnis als std :: fmod und std :: remainder
In der folgenden Beispiel-App berechne ich den Gleitkomma-Rest aus der Division von953 durch0.1 mitstd::fmod Was ich erwartet hatte ist das seit953.0 / 0.1 == 9530, Dasstd::fmod(953, 0.1) == 0 Ich erhalte0.1 - Warum ist das der Fall? Beachten ...
Maximum float value in php
Gibt es eine Möglichkeit, den maximalen Float-Wert für PHP programmgesteuert abzurufen? Verwandt mitFLT_MAX oderstd::numeric_limits< float >::max() in C / C ++? Ich benutze etwas wie das folgende: $minimumCost = MAXIMUM_FLOAT_VALUE??; foreach ...