Suchergebnisse für Anfrage "floating-accuracy"
Exakte Textdarstellung eines IEEE-Double
Ich muss eine doppelte (64-Bit) Gleitkommazahl nach IEEE 754-1985 in einer für Menschen lesbaren Textform darstellen, unter der Bedingung, dass die Textform erneut analysiert werden kanngenau die gleiche (bitweise) Zahl. Ist das möglich / ...
Was ist ein einfaches Beispiel für Gleitkomma- / Rundungsfehler?
Ich habe von "Fehler" bei der Verwendung von Gleitkommavariablen gehört. Jetzt versuche ich, dieses Rätsel zu lösen und ich glaube, ich bekomme einen Rundungs- / Gleitkommafehler. Also werde ich endlich die Grundlagen des ...
Faustregeln zur Minimierung von Gleitkommafehlern in C?
Zum Minimieren des Fehlers bei Gleitkommaoperationen, wenn ich eine Operation wie die folgende in C habe: float a = 123.456; float b = 456.789; float r = 0.12345; a = a - (r * b);Ändert sich das Ergebnis der Berechnung, wenn ich die ...
c ++ Gleitkomma-Präzisionsverlust: 3015 / 0.00025298219406977296
Das Problem. Microsoft Visual C ++ 2005-Compiler, 32-Bit-Windows XP SP3 und 64 x 2-CPU. Code: double a = 3015.0; double b = 0.00025298219406977296; //*((unsigned __int64*)(&a)) == 0x40a78e0000000000 //*((unsigned __int64*)(&b)) ...
Verbesserung der Genauigkeit von Strahlen- und Ellipsoidschnittpunkten
Ich muss die Präzision für die Funktion in einem von mir verbessernAtmosphärisch streuender GLSL-Fragment-Shader [https://stackoverflow.com/a/19659648/2521214] Hiermit wird der Schnittpunkt zwischen Einzelstrahl und achsenausgerichtetem Ellipsoid ...
Umgang mit Float-Präzision in Javascript [duplizieren]
Diese Frage hat hier bereits eine Antwort: Wie gehe ich mit Gleitkommazahlengenauigkeit in JavaScript um? [/questions/1458633/how-to-deal-with-floating-point-number-precision-in-javascript] 34 answersIch habe eine große Anzahl von numerischen ...
Wie breitet sich ein Gleitkomma-Fehler aus, wenn mathematische Operationen in C ++ ausgeführt werden?
Nehmen wir an, wir haben die folgenden Variablen deklariert float a = 1.2291; float b = 3.99; float -Variablen haben die Genauigkeit 6, was (wenn ich das richtig verstehe) bedeutet, dass die Differenz zwischen der Zahl, die der Computer ...
Wie finden Sie den nächstgelegenen ungleichen Wert eines Floats? [Duplikat
Diese Frage hat hier bereits eine Antwort: Wie ändere ich einen Float um das kleinste Inkrement (oder in der Nähe davon)? [/questions/155378/how-to-alter-a-float-by-its-smallest-increment-or-close-to-it] 7 answersA float (a.k.a. single) -Wert ...
float seltsame Ungenauigkeit Fehler in c [duplizieren]
Diese Frage hat hier bereits eine Antwort: Ist Gleitkomma-Mathematik kaputt? [/questions/588004/is-floating-point-math-broken] 28 answerstoday passierte mir etwas Seltsames, als ich versuchte, die Ausgabe dieses Codes zu kompilieren ...
Warum haben diese beiden float64 unterschiedliche Werte?
Betrachten Sie diese beiden Fälle: fmt.Println(912 * 0.01) fmt.Println(float64(912) * 0.01)( Go Playground Link [http://play.golang.org/p/k3OLoemaA8]) Der zweite druckt 9.120000000000001, was eigentlich in Ordnung ist,ch verstehe, warum das ...