Suchergebnisse für Anfrage "ieee-754"
Holen Sie sich die nächstkleinere Double-Nummer
Im Rahmen eines Unit-Tests muss ich einige Randbedingungen testen. Eine Methode akzeptiert a
Ist es möglich, isnan () in gfortran -O3 -ffast-math zum Laufen zu bringen?
Ich würde gerne ein Programm mit gfortran und kompilieren
Berechnung einer richtig gerundeten / fast richtig gerundeten Gleitkomma-Kubikwurzel
Nehmen wir an, dass die Standardbibliotheksfunktionen wie in richtig gerundet sindCRlibm stehen zur Verfügung. Wie würde man dann die korrekt gerundete Kubik...
Gleitkomma-Arithmetikfehler
Ich benutze die folgende Funktion, um die Ableitung einer Funktion an einem Punkt zu approximieren:
Die einfachste Methode zum manuellen Konvertieren eines dezimalen Gleitkommas in eine Bitdarstellung basierend auf IEEE 754, ohne eine Bibliothek zu verwenden
Ich weiß, dass es zahlreiche Möglichkeiten gibt, jedes Bit eines IEEE 754-Floats mit geschriebenen Bibliotheken zu lesen. Das will ich nicht und das will ich könnenmanuellKonvertieren eines dezimalen Gleitkommas in eine Binärdarstellung ...
Extreme numerische Werte in Gleitkomma-Genauigkeit in R
Kann mir bitte jemand die folgende Ausgabe erklären. Ich weiß, dass es etwas mit Gleitkommapräzision zu tun hat, aber die Größenordnung (Differenz 1e308) überrascht mich. 0: hohe Präzision > 1e-324==0 [1] TRUE > 1e-323==0 [1] FALSE1: sehr ...
Warum ist Number.MAX_SAFE_INTEGER 9.007.199.254.740.991 und nicht 9.007.199.254.740.992?
ECMAScript 6'sNumber.MAX_SAFE_INTEGER stellt angeblich den maximalen numerischen Wert dar, den JavaScript speichern kann, bevor Probleme mit der Gleitkommapräzision auftreten. Voraussetzung ist jedoch, dass die zu diesem Wert hinzugefügte Zahl 1 ...
Wie druckt Javascript 0.1 so genau?
Ich habegehör [https://stackoverflow.com/questions/1458633/elegant-workaround-for-javascript-floating-point-number-problem] dass Javascript Zahlen sindIEEE 754 [http://en.wikipedia.org/wiki/IEEE_floating_point] Gleitkommazahlen, was erklärt, ...
Convert ieee754 in Knoten @ dezim
Ich habe einen Puffer im Knoten<Buffer 42 d9 00 00> das soll die Dezimalstelle 108.5 darstellen. Ich benutze dieses Modul, um zu versuchen, den Puffer zu dekodieren:https: //github.com/feross/ieee75 ...