Suchergebnisse für Anfrage "floating-point"
Float-Vektor in Byte-Vektor umwandeln und zurück
Ich versuche, einige Konvertierungen zwischen Float- und vorzeichenlosen Char-Arrays (in diesem Fall std :: vector) durchzuführen, und bin auf einige Problem...
Division und Fließkomma
Kann mir jemand helfen, warum x2 null druckt. Ich denke, weil die Gleitkommadarstellung X1 abgerundet ist, gibt es eine Möglichkeit, die Präzession zu halten.
Wie liest man Floats aus einer Datei ein?
Wie kann ich eine Datei in Python öffnen und die Floats aus der Datei einlesen, wenn sie im Zeichenfolgenformat vorliegen? Ich möchte auch die Werte jedes Fl...
Rundungsfehler in .NETs Double.ToString-Methode
Betrachten Sie für diese Frage mathematisch die rationale Zahl
Präzisionsunterschiede in Matlab und C ++
Ich versuche, Äquivalenztests mit einem in C ++ und Matlab geschriebenen Algorithmus durchzuführen. Der Algorithmus enthält eine Art Zeitschleife und wird me...
Runden Sie einen Float auf die nächste Ganzzahl in Javascript
Ich muss Gleitkommazahlen auf die nächste Ganzzahl aufrunden, auch wenn die Zahl nach dem Punkt kleiner als 0,5 ist.Zum Beispiel,4.3 sollte 5 sein (nicht 4)4...
MySQL speichert Floats
Ich versuche, eine so lange Float-Nummer zu speichern13.00386644742523Sein grundlegender Lat- und Lng-Wert. Wenn ich es in der Datenbank speichere, wird es a...
Konvertieren von Zeichenfolgen in Float in C #
Ich konvertiere eine Zeichenfolge wie "41.00027357629127" und verwende;