Suchergebnisse für Anfrage "floating-point"
Float-Addition zu verdoppeln gefördert?
Ich hatte heute Morgen einen kleinen WTF-Moment. Das WTF lässt sich so zusammenfassen:
größte Ganzzahl, die in einem Double gespeichert werden kann
Was ist die größte "nicht schwebende" Ganzzahl, die in einem IEEE 754-Doppeltyp gespeichert werden kann, ohne an Genauigkeit zu verlieren?
Gleitkomma-Konflikt zwischen Compilern (Visual Studio 2010 und GCC)
Ich versuche, ein plattformübergreifendes Problem zu lösen, das auftaucht, und bin mir nicht ganz sicher, wie ich es angehen soll. Hier ist ein Demonstration...
Warum wird die Zahl in Java durch Null Unendlich geteilt?
Warum sollte der folgende Code in Java
Numpy longdouble Arithmetik scheint nicht lange mit der Konvertierung zu verdoppeln
Ich habe C99's gespieltQuad-Präzision langes doppeltes. Ich verstehe, dass (plattformspezifische) Numpy unterstütztlanges doppeltes und 128bit floats.Ich...
Das Skalarprodukt zweier Gleitkomma-Vektoren mit einfacher Genauigkeit liefert im CUDA-Kernel andere Ergebnisse als auf dem Host
Während des Debuggens von CUDA-Code habe ich mit äquivalentem CPU-Code verglichen
Warum weigert sich AWK, Schwimmer zusammenzufassen?
Ich stehe vor einem ziemlich seltsamen Problem mit