Eigenschaften von 80-Bit-Berechnungen mit erweiterter Genauigkeit, ausgehend von Argumenten mit doppelter Genauigkeit

Große Zahlen in JavaScript fälschlicherweise gerundet

Gleitkommavergleich überarbeitet

Dieses Thema ist bei StackOverflow schon oft aufgetaucht, aber ich glaube, das ist eine neue Einstellung. Ja ich habe gelesenBruce Dawsons Artikel undWas jed...

Warum werden Gleitkommazahlen so unterschiedlich gedruckt?

Lua - Packung von Gleitkommazahlen nach IEEE754 mit einfacher Genauigkeit

Ich möchte eine Funktion in reinem Lua erstellen, die a erzeugtFraktion (23 Bits), einExponent (8 Bits) und aZeichen (1 Bit) aus einer Zahl, so dass die Zahl...

Warum ergibt die Division durch Null im IEEE754-Standard einen unendlichen Wert?

Ich bin nur neugierig, warum in

Erzwingen, dass Gleitkommazahlen in .NET deterministisch sind?

Denormalisierte Zahlen - Gleitkomma nach IEEE 754

Daher versuche ich, mehr über denormalisierte Zahlen zu erfahren, wie sie im IEEE 754-Standard für Gleitkommazahlen definiert sind. Ich habe dank der Google-...

Was ist lang doppelt auf x86-64?

Jemand hat mir gesagt, dass:Unter x86-64 erfolgt die FP-Arithmetik mit SSE, und daher beträgt das lange Double 64 Bit.Aber in der x86-64-ABI heißt es:

Holen Sie sich die nächstkleinere Double-Nummer

Im Rahmen eines Unit-Tests muss ich einige Randbedingungen testen. Eine Methode akzeptiert a