Suchergebnisse für Anfrage "precision"
fopen / fopen_s und Schreiben in Dateien
Ich benutze fopen in C, um die Ausgabe in eine Textdatei zu schreiben. Die Funktionsdeklaration lautet (wobeiARRAY_SIZE wurde früher definiert): void create_out_file(char file_name[],long double *z1){ FILE *out; int i; if((out = ...
Warum bleibt das Hinzufügen von 0,1 mehrfach verlustfrei?
Ich kenne das0.1 Dezimalzahl kann nicht exakt mit einer endlichen Binärzahl dargestellt werden Erläuterun [http://www.exploringbinary.com/why-0-point-1-does-not-exist-in-floating-point/] ), sodouble n = 0.1 wird etwas an Präzision verlieren und ...
Math.log2 Präzision hat sich in Chrome @ geände
Ich habe ein JavaScript-Programm geschrieben, das die Tiefe eines Binärbaums anhand der Anzahl der Elemente berechnet. Mein Programm funktioniert seit Monaten einwandfrei, aber kürzlich habe ich einen Unterschied festgestellt, wenn die Webseite ...
ie Unterschiede in der Genauigkeit der Berechnungen im Single / Multi-Threaded (OpenMP) -Mod
Kann jemand die Unterschiede zwischen den Berechnungsergebnissen im Single / Multi-Thread-Modus erklären / verstehen? Hier ist ein Beispiel für ca. Berechnung von pi: #include <iomanip> #include <cmath> #include <ppl.h> const ...
x86-64 lange doppelte Präzision
Was ist die tatsächliche Präzision von Long Double auf Intel 64-Bit-Plattformen? Sind es 80 Bits, die auf 128 oder tatsächliche 128 Bits aufgefüllt sind? wenn früher, neben gmp, gibt es noch eine andere Möglichkeit, echte 128-Genauigkeit zu ...
Wie rundest du ein Double in Dart mit einer bestimmten Genauigkeit NACH dem Dezimalpunkt?
Gegeben ein Doppel, ich möchte es auf eine bestimmte Anzahl von Punkten der Präzision rundennach dem Komma, ähnlich der round () - Funktion von PHP. Das nächste, was ich in den Dart-Dokumenten finden kann, ist double.toStringAsPrecision (), aber ...
Was ist die Standardbibliothek (oder die am besten unterstützte Bibliothek) mit großen Nummern (willkürliche Genauigkeit) für Lua?
Ich arbeite mit großen Zahlen, die ich nicht abgerundet haben kann. Mit der Standard-Mathematikbibliothek von Lua scheint es keine bequeme Möglichkeit zu geben, die Genauigkeit über eine interne Grenze hinaus beizubehalten. Ich sehe auch, dass ...
C ++ Gleitkommapräzision [duplizieren]
Mögliches Duplizieren: Floating Point Ungenauigkeit Beispiele [https://stackoverflow.com/questions/2100490/floating-point-inaccuracy-examples] double a = 0.3; std::cout.precision(20); std::cout << a << ...
Floating Point Arithmetic - Modulo-Operator bei doppeltem Typ
So versuche ich herauszufinden, warum der Modulo-Operator einen so großen ungewöhnlichen Wert zurückgibt. Wenn ich den Code habe: double result = 1.0d % 0.1d; it wird ein Ergebnis von @ geb0.09999999999999995. Ich würde einen Wert von ...
Wie viele doppelte Zahlen gibt es zwischen 0.0 und 1.0?
Das ist etwas, woran ich seit Jahren denke, aber ich habe mir nie die Zeit genommen, vorher zu fragen. Viele (Pseudo-) Zufallszahlengeneratoren erzeugen eine Zufallszahl zwischen 0.0 und 1.0. Mathematisch gibt es unendlich viele Zahlen in ...