Suchergebnisse für Anfrage "ieee-754"
Welche Verwendung haben NaN-Nutzdaten mit Gleitkommazahlen?
Ich weiß, dass IEEE 754 NaNs so definiert, dass sie die folgende bitweise Darstellung haben: Das Vorzeichenbit kann entweder @ se0 oder1 Das Exponentenfeld enthält alle1 bitsEinige Bits der Mantisse werden verwendet, um anzugeben, ob es sich um ...
Fused Multiplizieren Addieren und Standard-Rundungsmodi
With GCC 5.3 das folgende Code compield mit-O3 -fma float mul_add(float a, float b, float c) { return a*b + c; }produziert die folgende Assembly vfmadd132ss %xmm1, %xmm2, %xmm0 ret Ich habe bemerkt, dass GCC dies mit @ t-O3 bereits in GCC 4.8 ...
Matlab vs C ++ Double Precision
Ich portiere Code von Matlab nach C ++. n Matl format long D = 0.689655172413793 (this is 1.0 / 1.45) E = 2600 / D // I get E = 3.770000000000e+03In C ++ double D = 0.68965517241379315; //(this is 1.0 / 1.45) double E = 2600 / D; //I get E = ...
Warum rundet Excel nicht gemäß 8-Byte-IEEE 754
Der folgende Ausdruck ergibtfalse in C #: (1 + 1 + 0.85) / 3 <= 0.95Und ich nehme an, dass dies in den meisten anderen Programmiersprachen der Fall ist, die IEEE 754 implementieren, da(1 + 1 + 0.85) / 3 ergibt0.95000000000000007, das größer als ...
Gibt es eine Möglichkeit, eine Zahl in der 64-Bit-Float-IEEE754-Darstellung zu sehen?
Javascript speichert alle Zahlen als IEEE 754-Werte im 64-Bit-Format mit doppelter Genauigkeit gemäß spec [http://www.ecma-international.org/publications/files/ECMA-ST/Ecma-262.pdf]: The Number Typ hat genau 18437736874454810627 (das heißt, 2 64 ...
Umwandlung von IEEE 754 vom Bitstrom in Float in JavaScript
Ich habe 32-Bit-Gleitkommazahlen mithilfe der GO-Sprachfunktion serialisiert math.Float32bits [https://golang.org/pkg/math/#Float32bits]) gibt die Gleitkommazahl zurück, die der IEEE 754-Binärdarstellung entspricht. Diese Nummer wird dann als ...
Welche ist die erste Ganzzahl, die ein IEEE 754-Float nicht genau darstellen kann?
Aus Gründen der Klarheit, wenn ich eine Sprache verwende, die IEE 754-Floats implementiert, und ich erkläre: float f0 = 0.f; float f1 = 1.f; ... und dann drucke sie wieder aus, ich bekomme 0,0000 und 1,0000 - genau. Aber IEEE 754 kann nicht ...
Warum liefern Operationen mit Werten mit doppelter Genauigkeit keine erwarteten Ergebnisse?
System.out.println(2.14656); 2.14656 System.out.println(2.14656%2); 0.14656000000000002 WTF?
Convert IEEE float hex auf dezimal?
Wenn ich ein IEEE-Float-Hexadezimalzeichen 42F6E979 habe, wie konvertiere ich es in ein Dezimalzeichen? Ich glaube die Dezimaldarstellung ist = 123.456001
Warum sieht der Gleitkommawert von 4 * 0.1 in Python 3 gut aus, aber 3 * 0.1 nicht?
Ich weiß, dass die meisten Dezimalstellen keine exakte Gleitkommadarstellung haben Ist Gleitkomma-Mathematik kaputt? [https://stackoverflow.com/questions/588004]). Aber ich verstehe nicht warum4*0.1 wird schön gedruckt als0.4, aber3*0.1 ...