Suchergebnisse für Anfrage "ieee-754"
Was ist Überlauf und Unterlauf im Gleitkomma
Ich glaube, ich verstehe das Konzept von @ nicht wirklioverflow undunderflow. Ich stelle diese Frage, um dies zu klären. Ich muss es auf seiner grundlegendsten Ebene mit Bits verstehen. Arbeiten wir mit der vereinfachten Gleitkommadarstellung ...
Warum sieht der Gleitkommawert von 4 * 0.1 in Python 3 gut aus, aber 3 * 0.1 nicht?
Ich weiß, dass die meisten Dezimalstellen keine exakte Gleitkommadarstellung haben Ist Gleitkomma-Mathematik kaputt? [https://stackoverflow.com/questions/588004]). Aber ich verstehe nicht warum4*0.1 wird schön gedruckt als0.4, aber3*0.1 ...
Umwandlung von IEEE 754 vom Bitstrom in Float in JavaScript
Ich habe 32-Bit-Gleitkommazahlen mithilfe der GO-Sprachfunktion serialisiert math.Float32bits [https://golang.org/pkg/math/#Float32bits]) gibt die Gleitkommazahl zurück, die der IEEE 754-Binärdarstellung entspricht. Diese Nummer wird dann als ...
Gibt es eine Möglichkeit, eine Zahl in der 64-Bit-Float-IEEE754-Darstellung zu sehen?
Javascript speichert alle Zahlen als IEEE 754-Werte im 64-Bit-Format mit doppelter Genauigkeit gemäß spec [http://www.ecma-international.org/publications/files/ECMA-ST/Ecma-262.pdf]: The Number Typ hat genau 18437736874454810627 (das heißt, 2 64 ...
Warum rundet Excel nicht gemäß 8-Byte-IEEE 754
Der folgende Ausdruck ergibtfalse in C #: (1 + 1 + 0.85) / 3 <= 0.95Und ich nehme an, dass dies in den meisten anderen Programmiersprachen der Fall ist, die IEEE 754 implementieren, da(1 + 1 + 0.85) / 3 ergibt0.95000000000000007, das größer als ...
Matlab vs C ++ Double Precision
Ich portiere Code von Matlab nach C ++. n Matl format long D = 0.689655172413793 (this is 1.0 / 1.45) E = 2600 / D // I get E = 3.770000000000e+03In C ++ double D = 0.68965517241379315; //(this is 1.0 / 1.45) double E = 2600 / D; //I get E = ...
Fused Multiplizieren Addieren und Standard-Rundungsmodi
With GCC 5.3 das folgende Code compield mit-O3 -fma float mul_add(float a, float b, float c) { return a*b + c; }produziert die folgende Assembly vfmadd132ss %xmm1, %xmm2, %xmm0 ret Ich habe bemerkt, dass GCC dies mit @ t-O3 bereits in GCC 4.8 ...
Welche Verwendung haben NaN-Nutzdaten mit Gleitkommazahlen?
Ich weiß, dass IEEE 754 NaNs so definiert, dass sie die folgende bitweise Darstellung haben: Das Vorzeichenbit kann entweder @ se0 oder1 Das Exponentenfeld enthält alle1 bitsEinige Bits der Mantisse werden verwendet, um anzugeben, ob es sich um ...
wie viele ganze Zahlen in IEEE 754
Ich versuche herauszufinden, wie viele verschiedene ganze Zahlen im ieee 754 existieren. Die Zahl, die ich erhielt, war 1778384895, aber ich konnte keine Ressource finden, um mich selbst zu überprüfen. Vielen Dank im Voraus
float128 und Double-Double-Arithmetik
Ich habe in Wikipedia gesehen, dass eine Möglichkeit, Quad-Genauigkeit zu implementieren, die Verwendung von Double-Double-Arithmetik ist, auch wenn die Genauigkeit in Bezug auf Bits nicht exakt gleich ...