Suchergebnisse für Anfrage "precision"
Wie sind diese Werte mit doppelter Genauigkeit auf 20 Dezimalstellen genau?
Ich teste einige sehr einfache Äquivalenzfehler, wenn Genauigkeit ein Problem ist, und wollte die Operationen mit erweiterter doppelter Genauigkeit ausführen (sodass ich wusste, wie die Antwort aus ~ 19 Ziffern bestehen würde) und dann dieselben ...
Genauigkeit mit fstream auf Ausgabedatei einstellen - Format double
Ich kann keine Antwort darauf finden, wie ich einen bereits geöffneten fstream verwende, um formatierte Doubles in eine Textdatei auszugeben. Momentan macht mein Code Folgendes: int writeToFile (fstream& f, product_record& p) { if (!f){ cout << ...
Wie man eine vorzeichenlose Zahl mit dem bitweisen und logischen Operator in C @ vervierfac
Tor 4x ( 4.400000095 ) = 17.60000038 Legal ops: Beliebige ganzzahlige / vorzeichenlose Operationen inkl. ||, &&. auch wenn, währendMax ops: 30 Bit-Level-Äquivalent des Ausdrucks x + x + x + x für @ zurückgebfloating point argument f.Mein ...
Verwenden Sie die Funktion math.isclose mit Werten nahe 0
Wie wir wissen, ergibt dieser Ausdruck aufgrund der binären Darstellung von ZahlenFalse (zumindest in Python): 0.2 + 0.4 == 0.6 Um bei numerischen Fehlern auf Gleichheit prüfen zu können, wird das Modulmath bietet anisclose: import math ...
BigDecimal, Präzision und Skalierung
Ich verwende BigDecimal für meine Zahlen in meiner Anwendung, zum Beispiel mit JPA. Ich habe ein bisschen über die Begriffe "Präzision" und "Skalierung" recherchiert, aber ich verstehe nicht, was sie genau sind. Kann mir jemand die Bedeutung ...
Matlab vs C ++ Double Precision
Ich portiere Code von Matlab nach C ++. n Matl format long D = 0.689655172413793 (this is 1.0 / 1.45) E = 2600 / D // I get E = 3.770000000000e+03In C ++ double D = 0.68965517241379315; //(this is 1.0 / 1.45) double E = 2600 / D; //I get E = ...
Golang konvertiert float64 nach int error
Wie kann ich Gleitkommafehler vermeiden, wenn ich float's in int's konvertiere? Beispielsweise wird der folgende Code gedruckt:0.5499999999999972 Wenn ich Wunde erwarte es zu drucken0.55. package main import "fmt" func main() { x := 100.55 ...
Wie man die maximale Genauigkeit für double @ ermitte
Ich versuche herauszufinden, wie hoch die maximale Präzision für ein Double ist. In den Kommentaren für die akzeptierte Antwort in diesem LinkRetain Präzision mit Doppel in ...
Gibt es eine Möglichkeit, die "signifikanten Zahlen" einer Dezimalstelle zu ermitteln?
AktualisiereOK, nach einigen Nachforschungen und zum großen Teil dank der hilfreichen Antworten von Jon und Hans, konnte ich dies zusammenstellen. Bisher scheint es gut zu funktionieren. Ich würde mein Leben natürlich nicht auf die absolute ...
Arithmetische Präzision mit Doppel in Matlab
Ich habe ein wenig Probleme zu verstehen, wie sich die Genauigkeit dieser Doppeln auf das Ergebnis von arithmetischen Operationen in Matlab auswirkt. Ich dachte, da beide a & b doppelt sind, könnten sie Operationen mit dieser Genauigkeit ...