Suchergebnisse für Anfrage "floating-point"
Warum ist Double.MIN_VALUE nicht negativ
Kann jemand etwas Licht ins Dunkel bringen, warumDouble.MIN_VALUE ist eigentlich nicht der Mindestwert, den Doubles annehmen können? Es ist ein positiver Wert und ein Double kann natürlich negativ sein. Ich verstehe, warum es eine nützliche ...
extracting Mantisse und Exponent von Double in c #
Gibt es eine einfache Möglichkeit, die Mantisse und den Exponenten aus einem Double in c # (oder .NET im Allgemeinen) zu erhalten? Ich fanddieses Beispiel [http://www.yoda.arachsys.com/csharp/DoubleConverter.cs] mit Google, aber ich bin nicht ...
Convert IEEE float hex auf dezimal?
Wenn ich ein IEEE-Float-Hexadezimalzeichen 42F6E979 habe, wie konvertiere ich es in ein Dezimalzeichen? Ich glaube die Dezimaldarstellung ist = 123.456001
Wechsel der "Endianness" von Floats und Doubles
Ich möchte die "Endianness" von float und double Werten umschalten, es funktioniert in Ordnung, indem ich so etwas mache wie: float const v{1.f}; swap(reinterpret_cast<::std::uint32_t const&>(v)); Gibt es eine bessere Möglichkeit, den Tausch ...
Wie bekomme ich Zahlen nach dem Komma?
Wie erhalte ich die Zahlen nach dem Komma? Zum Beispiel, wenn ich5.55, wie bekomme ich.55?
'is' Operator verhält sich unerwartet mit floats
Ich bin beim Testen eines Moduls auf ein verwirrendes Problem gestoßen. Das Modul wandelt tatsächlich Werte um und ich möchte diese Werte vergleichen. Es gibt einen Unterschied zu== undis (zum Teil bin ich auf der Hut vor dem Unterschied) >>> ...
Ist es in Ordnung, Gleitkommazahlen ohne epsilon mit 0.0 zu vergleichen?
Ich bin mir bewusst, dass man zum Vergleichen von zwei Gleitkommawerten etwas Epsilon-Genauigkeit verwenden muss, da diese nicht genau sind. Ich frage mich jedoch, ob es Randfälle gibt, in denen ich dieses Epsilon nicht benötige. Insbesondere ...
Warum liefern Operationen mit Werten mit doppelter Genauigkeit keine erwarteten Ergebnisse?
System.out.println(2.14656); 2.14656 System.out.println(2.14656%2); 0.14656000000000002 WTF?
Wie behebe ich diesen Perl-Code so, dass 1.1 + 2.2 == 3.3?
Wie behebe ich diesen Code so, dass 1.1 + 2.2 == 3.3? Was passiert hier eigentlich, was dieses Verhalten verursacht? Ich bin vage mit Rundungsproblemen und Gleitkomma-Mathematik vertraut, aber ich dachte, dass dies nur für Division und ...
Floating Point Problem in C [duplizieren]
Mögliches Duplizieren: seltsame Ausgabe im Vergleich von float mit float-Literal [https://stackoverflow.com/questions/1839422/strange-output-in-comparision-of-float-with-float-literal] float a = 0.7; if (a < 0.7) ;Warum wird der Ausdruck hier ...