Suchergebnisse für Anfrage "floating-accuracy"
Integer-Exponentiation in OCaml
Gibt es eine Funktion zur ganzzahligen Exponentiation in OCaml? ** gilt nur für Schwimmer. Obwohl es größtenteils genau zu sein scheint, gibt es nicht die Mö...
Suchen Sie den nächstgelegenen Gleitkommawert in C ++, der kleiner als ein bestimmter ganzzahliger Wert ist?
Ich habe einen Gleitkomma-Eingabewert, der 0.0f <= value <1.0f ist (notiere weniger als eins).Wenn dieser Wert mit einem größeren Bereich multipliziert...
Warum wertet GDB Gleitkomma-Arithmetik anders aus als C ++?
Ich bin auf etwas Verwirrendes gestoßen, als ich versucht habe, ein Gleitkomma-Rechenproblem zu lösen.Erstens den Code. Ich habe das Wesentliche meines Probl...
Das Ergebnis des Castings von double nach int ist falsch
Es scheint einen obskuren Rundungsfehler zu geben, wenn ich den folgenden Code ausführe:
Umgang mit Float-Präzision in Javascript [duplizieren]
Diese Frage hat hier bereits eine Antwort: Wie gehe ich mit Gleitkommazahlengenauigkeit in JavaScript um? [/questions/1458633/how-to-deal-with-floating-point-number-precision-in-javascript] 34 answersIch habe eine große Anzahl von numerischen ...
Python Gleitkomma willkürliche Genauigkeit verfügbar?
Nur zum Spaß und weil es wirklich einfach war, habe ich ein kurzes Programm geschrieben, um es zu generierenZahlen pfropfenAufgrund von Gleitkommapräzisionsp...
Division und Fließkomma
Kann mir jemand helfen, warum x2 null druckt. Ich denke, weil die Gleitkommadarstellung X1 abgerundet ist, gibt es eine Möglichkeit, die Präzession zu halten.
Drucken des integralen Teils einer Gleitkommazahl
Ich versuche herauszufinden, wie man Gleitkommazahlen druckt, ohne Bibliotheksfunktionen zu verwenden. Das Drucken des Dezimalteils einer Gleitkommazahl erwi...