Suchergebnisse für Anfrage "floating-point"

2 die antwort

Suchen Sie den Schwimmer direkt unter einem Wert

0 die antwort

Warum sollte Microsoft die falschen Implementierungen von Equals und GetHashCode mit NaN NICHT beheben wollen? [geschlossen]

2 die antwort

Effiziente Methode zum Runden von Zahlen mit doppelter Genauigkeit auf eine niedrigere Genauigkeit, die in der Anzahl der Bits angegeben ist

TOP-Veröffentlichungen

1 die antwort

Bitdarstellung einer doppelten Zahl

2 die antwort

Falsche Rundung des Gleitkommas bei Verwendung von ToString ("F1")

6 die antwort

C # Math.Pow () ist defekt

Und nein, dies beinhaltet (nach meinem Verständnis) keine ganzzahligen Divisions- oder Gleitkomma-Rundungsprobleme.Mein genauer Code ist:

2 die antwort

Lua - Packung von Gleitkommazahlen nach IEEE754 mit einfacher Genauigkeit

Ich möchte eine Funktion in reinem Lua erstellen, die a erzeugtFraktion (23 Bits), einExponent (8 Bits) und aZeichen (1 Bit) aus einer Zahl, so dass die Zahl...

6 die antwort

Wichtige Zahlen im Dezimalmodul

Deshalb habe ich mich entschlossen, meine Physik-Hausaufgaben zu lösen, indem ich einige Python-Skripte geschrieben habe, um Probleme für mich zu lösen. Ein ...

4 die antwort

Float-Formatierung in C ++

Wie formatiert man einen Gleitkommawert in C ++, um ihn auf zwei Dezimalstellen aufgerundet auszugeben? Ich habe kein Glück mit

2 die antwort

Holen Sie sich die "Bits" eines Floats in Python?

Ich suche das Python-Äquivalent von Java