Suchergebnisse für Anfrage "floating-accuracy"
Warum ändert sich der Wert dieses Floats von dem, auf den er eingestellt wurde?
Warum gibt dieses C-Programm die "falsche" Ausgabe aus? #include<stdio.h> void main() { float f = 12345.054321; printf("%f", f); getch(); }Ausgabe 12345.054688Aber die Ausgabe sollte sein,12345.054321. Ich verwende VC ++ in VS2008.
Ist es möglich, 0 zu erhalten, indem zwei ungleiche Gleitkommazahlen subtrahiert werden?
Ist es im folgenden Beispiel möglich, eine Division durch 0 (oder Unendlich) zu erhalten? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } }m Normalfall natürlich nicht. Aber was wenna undb ...
Dezimalstellenprobleme mit Gleitkommazahlen und Dezimalstellen.Decimal
Ich scheine viel Präzision mit Schwimmern zu verlieren. Zum Beispiel muss ich eine Matrix lösen: 4.0x -2.0y 1.0z =11.0 1.0x +5.0y -3.0z =-6.0 2.0x +2.0y +5.0z =7.0Dies ist der Code, mit dem ich die Matrix aus einer Textdatei importiere: f = ...
Bearbeiten und Vergleichen von Gleitkommawerten in Java
In Java wird die Gleitkomma-Arithmetik nicht genau dargestellt. Zum Beispiel dieser Java-Code: float a = 1.2; float b= 3.0; float c = a * b; if(c == 3.6){ System.out.println("c is 3.6"); } else { System.out.println("c is not 3.6"); } Prints "c ...
C ++ Gleitkommapräzision [duplizieren]
Mögliches Duplizieren: Floating Point Ungenauigkeit Beispiele [https://stackoverflow.com/questions/2100490/floating-point-inaccuracy-examples] double a = 0.3; std::cout.precision(20); std::cout << a << ...
Payne Hanek Algorithmus Implementierung in C
Ich habe Mühe zu verstehen, wie der von Payne und Hanek veröffentlichte Entfernungsreduzierungsalgorithmus (Entfernungsreduzierung für trigonometrische Funktionen) implementiert werden kann. Ich habe gesehen, dass es diese Bibliothek ...
Den Dezimalteil eines Double in Swift erhalten
Ich versuche, die Dezimal- und Ganzzahlteile eines Double in Swift zu trennen. Ich habe eine Reihe von Ansätzen ausprobiert, aber alle stoßen auf dasselbe Problem ... let x:Double = 1234.5678 let n1:Double = x % 1.0 // n1 = 0.567800000000034 ...
C ++ Präzision: String zu Double
Ich habe ein Problem mit der Genauigkeit eines Double, nachdem einige Operationen an einer konvertierten Zeichenfolge in Double ausgeführt wurden. #include <iostream> #include <sstream> #include <math.h> using namespace std; // conversion ...
Wird (int) pow (n, m) für einige positive ganze Zahlen n, m falsch sein?
Assumingn undm sind positive ganze Zahlen und nm liegt im Bereich einer ganzen Zahl, wird(int)pow(n,m) jemals eine falsche Antwort geben? Ich habe viele @ ausprobien zumm=2 und habe bisher keine falschen Antworten erhalten.
Was genau ist der Parameter "resolution" von numpy float
Ich bin auf der Suche nach mehr Verständnis für den "Resolution" -Parameter eines numpy float (ich denke, jeder computerdefinierte float für diese Angelegenheit). Betrachten Sie das folgende Skript: import numpy as np a = np.finfo(10.1) print ...