Suchergebnisse für Anfrage "floating-point"

5 die antwort

Genauigkeit im Float-Wert mit Java verloren

Dazu unten den Testcode und dessen Ausgabe. Wenn ich vom Zahlenwert einen Gleitkommawert erhalte, geht die Genauigkeit verloren. Kann mir jemand sagen, warum...

4 die antwort

Python seltsame Additionsfehler [duplizieren]

Mögliche Duplikate:Python - Probleme mit der Dezimalstelle bei FloatsPython Float Gleichheit VerrücktheitIm Code unten habe ich die Variable

2 die antwort

Wie wird ein Float hexadezimal dargestellt?

TOP-Veröffentlichungen

3 die antwort

Wie rundet man in C ++ Nachkommastellen ab?

Ich brauche Hilfe, um einen Gleitkommawert auf eine Dezimalstelle abzurunden.Ich kenne

3 die antwort

Gleitkommazahl vom Server zum Client senden

ich benutzeTCP / IP Socket-Programmierung. Ich habe einGleitkommawert in einer Variablen gespeichertret_val in meinem Server-Code, den ich an den Client send...

2 die antwort

1e-9 oder -1e9, welches ist richtig? [geschlossen]

Mir wurde ein alter Code zugewiesen, und als ich ihn las, bemerkte ich, dass er folgende Form hatte:

4 die antwort

Welche Werte können nicht korrekt durch ein Doppel dargestellt werden

4 die antwort

Was ist die kleinste positive Gleitkommazahl ungleich Null in Perl?

Ich habe ein Programm in Perl, das mit Wahrscheinlichkeiten arbeitet, die gelegentlich sehr klein sein können. Aufgrund von Rundungsfehlern wird manchmal ein...

3 die antwort

Warum liefern die Rechenfunktionen von GLSL auf dem iPad so unterschiedliche Ergebnisse als auf dem Simulator?

6 die antwort

Java-Suche Float-Nummer in String