Suchergebnisse für Anfrage "ieee-754"
Status von __STDC_IEC_559__ mit modernen C-Compilern
C99 hat ein Makro hinzugefügt__STDC_IEC_559__ Mit dieser Funktion können Sie testen, ob ein Compiler und eine Standardbibliothek dem Standard ISO / IEC / IEEE 60559 (oder IEEE 754) entsprechen. Nach den Antworten auf diese ...
Warum ist die in diesem C-Code verwendete IEEE-754-Exponentenvorspannung 126.94269504 anstelle von 127?
Die folgende C-Funktion stammt von fastapprox [https://code.google.com/p/fastapprox/] project. static inline float fasterlog2 (float x) { union { float f; uint32_t i; } vx = { x }; float y = vx.i; y *= 1.1920928955078125e-7f; return y - ...
Wie ist fma () implementiert
Laut demDokumentatio [http://sourceware.org/newlib/libm.html#fma], da ist einfma() Funktion inmath.h. Das ist sehr schön und ich weiß, wie die FMA funktioniert und wofür sie verwendet werden soll. Ich bin mir jedoch nicht so sicher, wie dies in ...
Convert ieee754 in Knoten @ dezim
Ich habe einen Puffer im Knoten<Buffer 42 d9 00 00> das soll die Dezimalstelle 108.5 darstellen. Ich benutze dieses Modul, um zu versuchen, den Puffer zu dekodieren:https: //github.com/feross/ieee75 ...
Wie druckt Javascript 0.1 so genau?
Ich habegehör [https://stackoverflow.com/questions/1458633/elegant-workaround-for-javascript-floating-point-number-problem] dass Javascript Zahlen sindIEEE 754 [http://en.wikipedia.org/wiki/IEEE_floating_point] Gleitkommazahlen, was erklärt, ...
Ist es möglich, 0 zu erhalten, indem zwei ungleiche Gleitkommazahlen subtrahiert werden?
Ist es im folgenden Beispiel möglich, eine Division durch 0 (oder Unendlich) zu erhalten? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } }m Normalfall natürlich nicht. Aber was wenna undb ...
Float und doppelter Datentyp in Java
Der Datentyp float ist ein 32-Bit-Gleitkomma nach IEEE 754 mit einfacher Genauigkeit und der Datentyp double ist ein 64-Bit-Gleitkomma nach IEEE 754 mit doppelter Genauigkeit. Was bedeutet es? Und wann sollte ich float anstelle von double ...
Warum brauchen wir IEEE 754 Rest?
Ich lese geradedieses Them [https://stackoverflow.com/questions/158120/math-ieeeremainder-returns-negative-results-why] (vor allem die letzten Kommentare). Dann habe ich mich gefragt, warum wir das eigentlich brauchen, um den Rest zu geben. ...
Warum ist Number.MAX_SAFE_INTEGER 9.007.199.254.740.991 und nicht 9.007.199.254.740.992?
ECMAScript 6'sNumber.MAX_SAFE_INTEGER stellt angeblich den maximalen numerischen Wert dar, den JavaScript speichern kann, bevor Probleme mit der Gleitkommapräzision auftreten. Voraussetzung ist jedoch, dass die zu diesem Wert hinzugefügte Zahl 1 ...
Sind die Bitmuster von NaNs wirklich hardwareabhängig?
Ich habe über Fließkomma-NaN-Werte in der Java-Sprachspezifikation gelesen (ich bin langweilig). Ein 32-Bitfloat hat dieses Bitformat: seee eeee emmm mmmm mmmm mmmm mmmm mmmms ist das Vorzeichenbit,e sind die Exponentenbits undm sind die ...