Suchergebnisse für Anfrage "floating-point"

4 die antwort

Wie erkennt man Gleitkommaüber- und -unterläufe mit doppelter Genauigkeit?

Ich habe folgende Variablen:

7 die antwort

Wie erhält man das Vorzeichen, die Mantisse und den Exponenten einer Gleitkommazahl?

Ich habe ein Programm, das auf zwei Prozessoren läuft, von denen einer keine Gleitkomma-Unterstützung hat. Also muss ich Gleitkommaberechnungen mit Festkomma...

4 die antwort

Wie komme ich zu der Einheitsmatrix von numpy.dot (A, A_inv)

Ich bereite eine Matrix von Zufallszahlen vor, berechne ihre Inverse und multipliziere sie mit der ursprünglichen Matrix. Dies ergibt theoretisch die Einheit...

TOP-Veröffentlichungen

2 die antwort

Kann eine Variable in Python verwendet werden, um Dezimalstellen zu definieren?

Ich kenne die Konvention des Gebrauchs

1 die antwort

Double-Double-Implementierung im FPU-Rundungsmodus

Kontext: Doppel-Doppel-Arithmetik"Double-Double" isteine Darstellung von Zahlen als die Summe von zwei Zahlen mit doppelter Genauigkeit ohne Überla...

5 die antwort

Warum gibt meine Ganzzahl-Mathematik mit std :: pow die falsche Antwort?

Betrachten Sie den folgenden Code:

3 die antwort

Konvertieren Sie "float" in Bytes in Javascript ohne Float32Array

Okay, ich bin eine ziemlich ärgerliche Situation, in der ich keinen Zugriff auf typisierte Arrays wie Float32Array habe, aber dennoch in der Lage sein muss, ...

4 die antwort

Sortieren Sie das mehrdimensionale Array nach Dezimalwerten

Ich versuche, ein mehrdimensionales Array zu sortieren, das Dezimalwerte enthält. Nach dem, was ich getestet habe, haben Schwimmer Probleme, richtig bestellt...

7 die antwort

PHP Float Berechnung 2 Dezimalpunkt

2 die antwort

Gleitkomma-Arithmetik und Maschinen-Epsilon