Suchergebnisse für Anfrage "floating-point"

2 die antwort

Float-Vektor in Byte-Vektor umwandeln und zurück

Ich versuche, einige Konvertierungen zwischen Float- und vorzeichenlosen Char-Arrays (in diesem Fall std :: vector) durchzuführen, und bin auf einige Problem...

4 die antwort

Schienen 3 Gleitkommazahl oder Dezimalzahl für GPS-Koordinaten

2 die antwort

Division und Fließkomma

Kann mir jemand helfen, warum x2 null druckt. Ich denke, weil die Gleitkommadarstellung X1 abgerundet ist, gibt es eine Möglichkeit, die Präzession zu halten.

TOP-Veröffentlichungen

4 die antwort

Wie liest man Floats aus einer Datei ein?

Wie kann ich eine Datei in Python öffnen und die Floats aus der Datei einlesen, wenn sie im Zeichenfolgenformat vorliegen? Ich möchte auch die Werte jedes Fl...

4 die antwort

Rundungsfehler in .NETs Double.ToString-Methode

Betrachten Sie für diese Frage mathematisch die rationale Zahl

4 die antwort

PHP - Fließkomma serialisieren

3 die antwort

Präzisionsunterschiede in Matlab und C ++

Ich versuche, Äquivalenztests mit einem in C ++ und Matlab geschriebenen Algorithmus durchzuführen. Der Algorithmus enthält eine Art Zeitschleife und wird me...

4 die antwort

Runden Sie einen Float auf die nächste Ganzzahl in Javascript

Ich muss Gleitkommazahlen auf die nächste Ganzzahl aufrunden, auch wenn die Zahl nach dem Punkt kleiner als 0,5 ist.Zum Beispiel,4.3 sollte 5 sein (nicht 4)4...

3 die antwort

MySQL speichert Floats

Ich versuche, eine so lange Float-Nummer zu speichern13.00386644742523Sein grundlegender Lat- und Lng-Wert. Wenn ich es in der Datenbank speichere, wird es a...

7 die antwort

Konvertieren von Zeichenfolgen in Float in C #

Ich konvertiere eine Zeichenfolge wie "41.00027357629127" und verwende;