Suchergebnisse für Anfrage "floating-point"
Genauigkeit im Float-Wert mit Java verloren
Dazu unten den Testcode und dessen Ausgabe. Wenn ich vom Zahlenwert einen Gleitkommawert erhalte, geht die Genauigkeit verloren. Kann mir jemand sagen, warum...
Python seltsame Additionsfehler [duplizieren]
Mögliche Duplikate:Python - Probleme mit der Dezimalstelle bei FloatsPython Float Gleichheit VerrücktheitIm Code unten habe ich die Variable
Wie rundet man in C ++ Nachkommastellen ab?
Ich brauche Hilfe, um einen Gleitkommawert auf eine Dezimalstelle abzurunden.Ich kenne
Gleitkommazahl vom Server zum Client senden
ich benutzeTCP / IP Socket-Programmierung. Ich habe einGleitkommawert in einer Variablen gespeichertret_val in meinem Server-Code, den ich an den Client send...
1e-9 oder -1e9, welches ist richtig? [geschlossen]
Mir wurde ein alter Code zugewiesen, und als ich ihn las, bemerkte ich, dass er folgende Form hatte:
Was ist die kleinste positive Gleitkommazahl ungleich Null in Perl?
Ich habe ein Programm in Perl, das mit Wahrscheinlichkeiten arbeitet, die gelegentlich sehr klein sein können. Aufgrund von Rundungsfehlern wird manchmal ein...