Suchergebnisse für Anfrage "floating-accuracy"
Suchen Sie den nächstgelegenen Gleitkommawert in C ++, der kleiner als ein bestimmter ganzzahliger Wert ist?
Ich habe einen Gleitkomma-Eingabewert, der 0.0f <= value <1.0f ist (notiere weniger als eins).Wenn dieser Wert mit einem größeren Bereich multipliziert...
Integer-Exponentiation in OCaml
Gibt es eine Funktion zur ganzzahligen Exponentiation in OCaml? ** gilt nur für Schwimmer. Obwohl es größtenteils genau zu sein scheint, gibt es nicht die Mö...
Wie stelle ich die Gleitkommapräzision in Perl ein?
Gibt es eine Möglichkeit, die Gleitkommagenauigkeit eines Perl-Skripts (auf 3 Stellen) festzulegen, ohne sie für jede Variable spezifisch ändern zu müssen?Äh...
Warum ist die Ausgabe von inv () und pinv () in Matlab und Octave nicht gleich?
Mir ist aufgefallen, dass A eine NxN-Matrix ist und die inverse Matrix hat. Die Ausgabe der Funktionen inv () und pinv () unterscheidet sich jedoch. - Meine ...
Warum sagt ghci, dass 1.1 + 1.1 + 1.1> 3.3 wahr ist?
Ich habe kürzlich ein Haskell-Tutorial durchgearbeitet und dieses Verhalten festgestellt, als ich einige einfache Haskell-Ausdrücke im interaktiven Modus aus...
Faustregeln zur Minimierung von Gleitkommafehlern in C?
Zum Minimieren des Fehlers bei Gleitkommaoperationen, wenn ich eine Operation wie die folgende in C habe: float a = 123.456; float b = 456.789; float r = 0.12345; a = a - (r * b);Ändert sich das Ergebnis der Berechnung, wenn ich die ...
c ++ Gleitkomma-Präzisionsverlust: 3015 / 0.00025298219406977296
Das Problem. Microsoft Visual C ++ 2005-Compiler, 32-Bit-Windows XP SP3 und 64 x 2-CPU. Code: double a = 3015.0; double b = 0.00025298219406977296; //*((unsigned __int64*)(&a)) == 0x40a78e0000000000 //*((unsigned __int64*)(&b)) ...