Suchergebnisse für Anfrage "floating-accuracy"

10 die antwort

For-Schleife in C ++ mit Double Breakout einen Schritt früher, Grenzwert nicht erreicht

10 die antwort

Warum ändert sich der Wert dieses Floats von dem, auf den er eingestellt wurde?

Warum gibt dieses C-Programm die "falsche" Ausgabe aus? #include<stdio.h> void main() { float f = 12345.054321; printf("%f", f); getch(); }Ausgabe 12345.054688Aber die Ausgabe sollte sein,12345.054321. Ich verwende VC ++ in VS2008.

10 die antwort

C ++ Gleitkommapräzision [duplizieren]

Mögliches Duplizieren: Floating Point Ungenauigkeit Beispiele [https://stackoverflow.com/questions/2100490/floating-point-inaccuracy-examples] double a = 0.3; std::cout.precision(20); std::cout << a << ...

TOP-Veröffentlichungen

10 die antwort

Den Dezimalteil eines Double in Swift erhalten

Ich versuche, die Dezimal- und Ganzzahlteile eines Double in Swift zu trennen. Ich habe eine Reihe von Ansätzen ausprobiert, aber alle stoßen auf dasselbe Problem ... let x:Double = 1234.5678 let n1:Double = x % 1.0 // n1 = 0.567800000000034 ...

12 die antwort

Dezimalstellenprobleme mit Gleitkommazahlen und Dezimalstellen.Decimal

Ich scheine viel Präzision mit Schwimmern zu verlieren. Zum Beispiel muss ich eine Matrix lösen: 4.0x -2.0y 1.0z =11.0 1.0x +5.0y -3.0z =-6.0 2.0x +2.0y +5.0z =7.0Dies ist der Code, mit dem ich die Matrix aus einer Textdatei importiere: f = ...

12 die antwort

Effizientes Rechnen von (a - K) / (a + K) mit verbesserter Genauigkeit

n verschiedenen Kontexten, zum Beispiel für die Argumentreduktion für mathematische Funktionen, muss man @ berechn(a - K) / (a + K), woa ist ein positives Variablenargument undK ist eine Konstante. In vielen Fällen,K ist eine Zweierpotenz. Dies ...

16 die antwort

Bearbeiten und Vergleichen von Gleitkommawerten in Java

In Java wird die Gleitkomma-Arithmetik nicht genau dargestellt. Zum Beispiel dieser Java-Code: float a = 1.2; float b= 3.0; float c = a * b; if(c == 3.6){ System.out.println("c is 3.6"); } else { System.out.println("c is not 3.6"); } Prints "c ...

18 die antwort

PHP - Floating Number Precision [duplizieren]

Diese Frage hat hier bereits eine Antwort: Ist Gleitkomma-Mathematik kaputt? [/questions/588004/is-floating-point-math-broken] 28 answers$a = '35'; $b = '-34.99'; echo ($a + $b);Ergebnisse in 0.009999999999998 Was ist damit los? Ich fragte ...

24 die antwort

Ist es möglich, 0 zu erhalten, indem zwei ungleiche Gleitkommazahlen subtrahiert werden?

Ist es im folgenden Beispiel möglich, eine Division durch 0 (oder Unendlich) zu erhalten? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } }m Normalfall natürlich nicht. Aber was wenna undb ...