Suchergebnisse für Anfrage "ieee-754"
Warum wird diese Formel in der Literatur zur tabellenbasierten Sin-Approximation immer verwendet, wenn eine andere Formel sinnvoller zu sein scheint?
Die Literatur zur Berechnung der Elementarfunktionsin mit Tabellen bezieht sich auf die Formel: sin(x) = sin(Cn) * cos(h) + cos(Cn) * sin(h)wox = Cn + h, Cn ist eine Konstante für diesin(Cn) undcos(Cn) wurden vorberechnet und sind in einer ...
Schnellster Algorithmus zum Identifizieren des kleinsten und größten x, die die doppelte Genauigkeitsgleichung x + a == b erfüllen
Im Rahmen der statischen Analyse interessiere ich mich für die Ermittlung der Werte vonx im then-Zweig der folgenden Bedingung: double x; x = …; if (x + a == b) { …a undb Es kann angenommen werden, dass es sich um Konstanten mit doppelter ...
Wie wende ich bitweise Operationen auf die tatsächliche IEEE 754-Darstellung von JS-Nummern an?
In JavaScript, wenn Sie eine bitweise Operation ausführen, zx << 2wird die 64-Bit-Float-Darstellung in ein 32-Bit-Int ohne Vorzeichen konvertiert, bevor die Verschiebung tatsächlich auftritt. Ich bin daran interessiert, die Verschiebung auf die ...
Exakte Textdarstellung eines IEEE-Double
Ich muss eine doppelte (64-Bit) Gleitkommazahl nach IEEE 754-1985 in einer für Menschen lesbaren Textform darstellen, unter der Bedingung, dass die Textform erneut analysiert werden kanngenau die gleiche (bitweise) Zahl. Ist das möglich / ...
Extreme numerische Werte in Gleitkomma-Genauigkeit in R
Kann mir bitte jemand die folgende Ausgabe erklären. Ich weiß, dass es etwas mit Gleitkommapräzision zu tun hat, aber die Größenordnung (Differenz 1e308) überrascht mich. 0: hohe Präzision > 1e-324==0 [1] TRUE > 1e-323==0 [1] FALSE1: sehr ...
Laymans Erklärung, warum JavaScript seltsam schwebende Mathematik hat - IEEE 754-Standard [duplizieren]
Diese Frage hat hier bereits eine Antwort: Ist Gleitkomma-Mathematik kaputt? [/questions/588004/is-floating-point-math-broken] 28 answersIch verstehe nie genau, was mit JavaScript los ist, wenn ich mathematische Operationen mit Gleitkommazahlen ...
Typ-Jonglage und (strenge) Größer / Kleiner-Vergleiche in PHP
PHP ist berühmt für seine Art-Jonglage. Ich muss zugeben, dass es mich verwirrt und ich es schwer habe, grundlegende logische / fundamentale Dinge in Vergleichen herauszufinden. Zum Beispiel: Wenn$a > $b ist wahr und$b > $c ist wahr, muss es ...
Warum ist NaN nicht gleich NaN? [Duplikat
Diese Frage hat hier bereits eine Antwort: Was ist der Grund für alle Vergleiche, die für IEEE754-NaN-Werte false zurückgeben? [/questions/1565164/what-is-the-rationale-for-all-comparisons-returning-false-for-ieee754-nan-values] 13 answersDer ...
Warum ist Number.MAX_SAFE_INTEGER 9.007.199.254.740.991 und nicht 9.007.199.254.740.992?
ECMAScript 6'sNumber.MAX_SAFE_INTEGER stellt angeblich den maximalen numerischen Wert dar, den JavaScript speichern kann, bevor Probleme mit der Gleitkommapräzision auftreten. Voraussetzung ist jedoch, dass die zu diesem Wert hinzugefügte Zahl 1 ...
Warum brauchen wir IEEE 754 Rest?
Ich lese geradedieses Them [https://stackoverflow.com/questions/158120/math-ieeeremainder-returns-negative-results-why] (vor allem die letzten Kommentare). Dann habe ich mich gefragt, warum wir das eigentlich brauchen, um den Rest zu geben. ...