Suchergebnisse für Anfrage "ieee-754"
Float und doppelter Datentyp in Java
Der Datentyp float ist ein 32-Bit-Gleitkomma nach IEEE 754 mit einfacher Genauigkeit und der Datentyp double ist ein 64-Bit-Gleitkomma nach IEEE 754 mit doppelter Genauigkeit. Was bedeutet es? Und wann sollte ich float anstelle von double ...
Ist es möglich, 0 zu erhalten, indem zwei ungleiche Gleitkommazahlen subtrahiert werden?
Ist es im folgenden Beispiel möglich, eine Division durch 0 (oder Unendlich) zu erhalten? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } }m Normalfall natürlich nicht. Aber was wenna undb ...
Wie druckt Javascript 0.1 so genau?
Ich habegehör [https://stackoverflow.com/questions/1458633/elegant-workaround-for-javascript-floating-point-number-problem] dass Javascript Zahlen sindIEEE 754 [http://en.wikipedia.org/wiki/IEEE_floating_point] Gleitkommazahlen, was erklärt, ...
Convert ieee754 in Knoten @ dezim
Ich habe einen Puffer im Knoten<Buffer 42 d9 00 00> das soll die Dezimalstelle 108.5 darstellen. Ich benutze dieses Modul, um zu versuchen, den Puffer zu dekodieren:https: //github.com/feross/ieee75 ...
Wie ist fma () implementiert
Laut demDokumentatio [http://sourceware.org/newlib/libm.html#fma], da ist einfma() Funktion inmath.h. Das ist sehr schön und ich weiß, wie die FMA funktioniert und wofür sie verwendet werden soll. Ich bin mir jedoch nicht so sicher, wie dies in ...
Convert ieee 754 float to hex mit c - printf
Idealerweise würde der folgende Code einen Gleitkommawert in der IEEE 754-Darstellung annehmen und ihn in hexadezimales @ konvertiere void convert() //gets the float input from user and turns it into hexadecimal { float f; printf("Enter float: ...
Warum ist die in diesem C-Code verwendete IEEE-754-Exponentenvorspannung 126.94269504 anstelle von 127?
Die folgende C-Funktion stammt von fastapprox [https://code.google.com/p/fastapprox/] project. static inline float fasterlog2 (float x) { union { float f; uint32_t i; } vx = { x }; float y = vx.i; y *= 1.1920928955078125e-7f; return y - ...
Status von __STDC_IEC_559__ mit modernen C-Compilern
C99 hat ein Makro hinzugefügt__STDC_IEC_559__ Mit dieser Funktion können Sie testen, ob ein Compiler und eine Standardbibliothek dem Standard ISO / IEC / IEEE 60559 (oder IEEE 754) entsprechen. Nach den Antworten auf diese ...
float128 und Double-Double-Arithmetik
Ich habe in Wikipedia gesehen, dass eine Möglichkeit, Quad-Genauigkeit zu implementieren, die Verwendung von Double-Double-Arithmetik ist, auch wenn die Genauigkeit in Bezug auf Bits nicht exakt gleich ...
wie viele ganze Zahlen in IEEE 754
Ich versuche herauszufinden, wie viele verschiedene ganze Zahlen im ieee 754 existieren. Die Zahl, die ich erhielt, war 1778384895, aber ich konnte keine Ressource finden, um mich selbst zu überprüfen. Vielen Dank im Voraus