Suchergebnisse für Anfrage "floating-point"

7 die antwort

Float-Addition zu verdoppeln gefördert?

Ich hatte heute Morgen einen kleinen WTF-Moment. Das WTF lässt sich so zusammenfassen:

7 die antwort

größte Ganzzahl, die in einem Double gespeichert werden kann

Was ist die größte "nicht schwebende" Ganzzahl, die in einem IEEE 754-Doppeltyp gespeichert werden kann, ohne an Genauigkeit zu verlieren?

8 die antwort

Gleitkomma-Konflikt zwischen Compilern (Visual Studio 2010 und GCC)

Ich versuche, ein plattformübergreifendes Problem zu lösen, das auftaucht, und bin mir nicht ganz sicher, wie ich es angehen soll. Hier ist ein Demonstration...

TOP-Veröffentlichungen

5 die antwort

Warum wird die Zahl in Java durch Null Unendlich geteilt?

Warum sollte der folgende Code in Java

2 die antwort

Numpy longdouble Arithmetik scheint nicht lange mit der Konvertierung zu verdoppeln

Ich habe C99's gespieltQuad-Präzision langes doppeltes. Ich verstehe, dass (plattformspezifische) Numpy unterstütztlanges doppeltes und 128bit floats.Ich...

3 die antwort

Konvertiert IEEE 754-Float mit Vorzeichen in hexadezimale Darstellung

1 die antwort

Auswahl von Gleitkommazahlen in Dezimalform

2 die antwort

Float in gerundetes Dezimaläquivalent umrechnen

1 die antwort

Das Skalarprodukt zweier Gleitkomma-Vektoren mit einfacher Genauigkeit liefert im CUDA-Kernel andere Ergebnisse als auf dem Host

Während des Debuggens von CUDA-Code habe ich mit äquivalentem CPU-Code verglichen

1 die antwort

Warum weigert sich AWK, Schwimmer zusammenzufassen?

Ich stehe vor einem ziemlich seltsamen Problem mit