Suchergebnisse für Anfrage "floating-accuracy"
Warum ändert sich der Wert dieses Floats von dem, auf den er eingestellt wurde?
Warum gibt dieses C-Programm die "falsche" Ausgabe aus? #include<stdio.h> void main() { float f = 12345.054321; printf("%f", f); getch(); }Ausgabe 12345.054688Aber die Ausgabe sollte sein,12345.054321. Ich verwende VC ++ in VS2008.
C ++ Gleitkommapräzision [duplizieren]
Mögliches Duplizieren: Floating Point Ungenauigkeit Beispiele [https://stackoverflow.com/questions/2100490/floating-point-inaccuracy-examples] double a = 0.3; std::cout.precision(20); std::cout << a << ...
Den Dezimalteil eines Double in Swift erhalten
Ich versuche, die Dezimal- und Ganzzahlteile eines Double in Swift zu trennen. Ich habe eine Reihe von Ansätzen ausprobiert, aber alle stoßen auf dasselbe Problem ... let x:Double = 1234.5678 let n1:Double = x % 1.0 // n1 = 0.567800000000034 ...
Dezimalstellenprobleme mit Gleitkommazahlen und Dezimalstellen.Decimal
Ich scheine viel Präzision mit Schwimmern zu verlieren. Zum Beispiel muss ich eine Matrix lösen: 4.0x -2.0y 1.0z =11.0 1.0x +5.0y -3.0z =-6.0 2.0x +2.0y +5.0z =7.0Dies ist der Code, mit dem ich die Matrix aus einer Textdatei importiere: f = ...
Effizientes Rechnen von (a - K) / (a + K) mit verbesserter Genauigkeit
n verschiedenen Kontexten, zum Beispiel für die Argumentreduktion für mathematische Funktionen, muss man @ berechn(a - K) / (a + K), woa ist ein positives Variablenargument undK ist eine Konstante. In vielen Fällen,K ist eine Zweierpotenz. Dies ...
Bearbeiten und Vergleichen von Gleitkommawerten in Java
In Java wird die Gleitkomma-Arithmetik nicht genau dargestellt. Zum Beispiel dieser Java-Code: float a = 1.2; float b= 3.0; float c = a * b; if(c == 3.6){ System.out.println("c is 3.6"); } else { System.out.println("c is not 3.6"); } Prints "c ...
PHP - Floating Number Precision [duplizieren]
Diese Frage hat hier bereits eine Antwort: Ist Gleitkomma-Mathematik kaputt? [/questions/588004/is-floating-point-math-broken] 28 answers$a = '35'; $b = '-34.99'; echo ($a + $b);Ergebnisse in 0.009999999999998 Was ist damit los? Ich fragte ...
Ist es möglich, 0 zu erhalten, indem zwei ungleiche Gleitkommazahlen subtrahiert werden?
Ist es im folgenden Beispiel möglich, eine Division durch 0 (oder Unendlich) zu erhalten? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } }m Normalfall natürlich nicht. Aber was wenna undb ...