Suchergebnisse für Anfrage "floating-point"

5 die antwort

C ++ mit doppelter Genauigkeit

1 die antwort

Gibt es in Javascript ein Limit für Dezimalstellen bei großen Floats?

2 die antwort

Wie kann ich mit Perl einen String in einen Float konvertieren?

TOP-Veröffentlichungen

4 die antwort

So legen Sie die Rundung der Sollgenauigkeit fest

Kann ich setprecision angeben, um doppelte Werte beim Streaming auf Standardausgabe zu runden?

3 die antwort

Konvertieren von Int in Float oder Float in Int mit bitweisen Operationen (Software-Gleitkomma)

Ich habe mich gefragt, ob Sie helfen können, den Prozess beim Konvertieren einer Ganzzahl in Float oder eines Floats in eine Ganzzahl zu erklären. Für meine ...

3 die antwort

Konvertieren von float in ein int (float2int) mit nur bitweiser Manipulation

Ich frage mich, ob mich jemand mit einem Problem, an dem ich arbeite, in die richtige Richtung lenken könnte. Ich versuche zu tun, was die folgende C-Funktio...

7 die antwort

Gleitkommazahlen

Ich lese dieses PDF-Tutorial mit dem Titel "Learning Python Fourth Edition". Jetzt bin ich zu einem Teil gekommen, den ich nicht verstehe, weil ich...

2 die antwort

Gleitkomma-Ausführungszeit für Mathematik

2 die antwort

Bibliothek für strikte Gleitkomma-Mathematik in .NET

1 die antwort

Wie kann ein 4 Byte großer Wert von 3.4e38 speichern

Wie bei 32-Bit können wir nur 2 ^ 32-Bit-Daten speichern. Wie können wir in der Sprache C einen so großen Wert 3.4e38 speichern? Ich kann den Mechanismus dah...