Suchergebnisse für Anfrage "floating-point"

4 die antwort

Warum ändert das Hinzufügen von 0 am Ende des Float-Literal die Rundungsart (möglicher GCC-Fehler)?

Ich habe auf meiner x86-VM (32-Bit) festgestellt, dass das folgende Programm:

1 die antwort

Der Microsoft ACE-Treiber ändert die Gleitkommapräzision im Rest meines Programms

Ich habe ein Problem, bei dem es den Anschein hat, dass sich die Ergebnisse einiger Berechnungen ändern, nachdem ich das verwendet habeMicrosoft ACE-Treiber ...

11 die antwort

Was ist die maximale Länge in Zeichen, die benötigt wird, um einen Doppelwert darzustellen?

TOP-Veröffentlichungen

1 die antwort

Reicht die Angabe des Gleitkommatyps aus, um dieselben Ergebnisse zu gewährleisten?

1 die antwort

Details zur Implementierung der Gleitkommadivisionshardware

Ich versuche, einen 32-Bit-Fließkomma-Hardwareteiler in Hardware zu implementieren, und frage mich, ob ich Vorschläge zu Kompromissen zwischen verschiedenen ...

3 die antwort

PHP Float Berechnungsfehler beim Subtrahieren

1 die antwort

Maximale Anzahl von Dezimalstellen, die sich auf ein Double auswirken können

9 die antwort

So führen Sie eine bitweise Operation für Gleitkommazahlen durch

4 die antwort

Warum wird Java Double.compare (double, double) so implementiert, wie es ist?

Ich habe mir die Implementierung von angeschautvergleichen (doppelt, doppelt) in der Java-Standardbibliothek (6). Es liest:

3 die antwort

Javascript Regex: Validierung eines Double / Float