Suchergebnisse für Anfrage "floating-accuracy"
Umgang mit Float-Präzision in Javascript [duplizieren]
Diese Frage hat hier bereits eine Antwort: Wie gehe ich mit Gleitkommazahlengenauigkeit in JavaScript um? [/questions/1458633/how-to-deal-with-floating-point-number-precision-in-javascript] 34 answersIch habe eine große Anzahl von numerischen ...
Was ist ein einfaches Beispiel für Gleitkomma- / Rundungsfehler?
Ich habe von "Fehler" bei der Verwendung von Gleitkommavariablen gehört. Jetzt versuche ich, dieses Rätsel zu lösen und ich glaube, ich bekomme einen Rundungs- / Gleitkommafehler. Also werde ich endlich die Grundlagen des ...
c ++ fmod gibt 0.2 für fmod (0.6,0.2) zurück
wenn ich fmod (0.6.0.2) in c ++ verwende, gibt es 0.2 zurück Ich weiß, dass dies durch Gleitkommagenauigkeit verursacht wird, aber es scheint, dass ich in diesem Moment den Rest von zwei Doppelten bekommen muss ielen Dank für alle Lösungen für ...
Warum liefern Operationen mit Werten mit doppelter Genauigkeit keine erwarteten Ergebnisse?
System.out.println(2.14656); 2.14656 System.out.println(2.14656%2); 0.14656000000000002 WTF?
Drucken des integralen Teils einer Gleitkommazahl
Ich versuche herauszufinden, wie man Gleitkommazahlen druckt, ohne Bibliotheksfunktionen zu verwenden. Das Drucken des Dezimalteils einer Gleitkommazahl erwi...
Warum sagt ghci, dass 1.1 + 1.1 + 1.1> 3.3 wahr ist?
Ich habe kürzlich ein Haskell-Tutorial durchgearbeitet und dieses Verhalten festgestellt, als ich einige einfache Haskell-Ausdrücke im interaktiven Modus aus...
float seltsame Ungenauigkeit Fehler in c [duplizieren]
Diese Frage hat hier bereits eine Antwort: Ist Gleitkomma-Mathematik kaputt? [/questions/588004/is-floating-point-math-broken] 28 answerstoday passierte mir etwas Seltsames, als ich versuchte, die Ausgabe dieses Codes zu kompilieren ...
Wird (int) pow (n, m) für einige positive ganze Zahlen n, m falsch sein?
Assumingn undm sind positive ganze Zahlen und nm liegt im Bereich einer ganzen Zahl, wird(int)pow(n,m) jemals eine falsche Antwort geben? Ich habe viele @ ausprobien zumm=2 und habe bisher keine falschen Antworten erhalten.
Warum sieht der Gleitkommawert von 4 * 0.1 in Python 3 gut aus, aber 3 * 0.1 nicht?
Ich weiß, dass die meisten Dezimalstellen keine exakte Gleitkommadarstellung haben Ist Gleitkomma-Mathematik kaputt? [https://stackoverflow.com/questions/588004]). Aber ich verstehe nicht warum4*0.1 wird schön gedruckt als0.4, aber3*0.1 ...