Suchergebnisse für Anfrage "floating-point"
Wie erkennt man Gleitkommaüber- und -unterläufe mit doppelter Genauigkeit?
Ich habe folgende Variablen:
Wie erhält man das Vorzeichen, die Mantisse und den Exponenten einer Gleitkommazahl?
Ich habe ein Programm, das auf zwei Prozessoren läuft, von denen einer keine Gleitkomma-Unterstützung hat. Also muss ich Gleitkommaberechnungen mit Festkomma...
Wie komme ich zu der Einheitsmatrix von numpy.dot (A, A_inv)
Ich bereite eine Matrix von Zufallszahlen vor, berechne ihre Inverse und multipliziere sie mit der ursprünglichen Matrix. Dies ergibt theoretisch die Einheit...
Kann eine Variable in Python verwendet werden, um Dezimalstellen zu definieren?
Ich kenne die Konvention des Gebrauchs
Double-Double-Implementierung im FPU-Rundungsmodus
Kontext: Doppel-Doppel-Arithmetik"Double-Double" isteine Darstellung von Zahlen als die Summe von zwei Zahlen mit doppelter Genauigkeit ohne Überla...
Warum gibt meine Ganzzahl-Mathematik mit std :: pow die falsche Antwort?
Betrachten Sie den folgenden Code:
Konvertieren Sie "float" in Bytes in Javascript ohne Float32Array
Okay, ich bin eine ziemlich ärgerliche Situation, in der ich keinen Zugriff auf typisierte Arrays wie Float32Array habe, aber dennoch in der Lage sein muss, ...
Sortieren Sie das mehrdimensionale Array nach Dezimalwerten
Ich versuche, ein mehrdimensionales Array zu sortieren, das Dezimalwerte enthält. Nach dem, was ich getestet habe, haben Schwimmer Probleme, richtig bestellt...