Resultados da pesquisa a pedido "floating-accuracy"
É possível obter 0 subtraindo dois números desiguais de ponto flutuante?
É possível obter divisão por 0 (ou infinito) no exemplo a seguir? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } }Em casos normais, isso não acontecerá, é claro. Mas e sea eb estão muito ...
A precisão do ponto flutuante pode depender do segmento?
Eu tenho uma pequena classe de vetor 3D em C # 3.0 com base em struct que usa o dobro como unidade básica. Um exemplo: o valor y de um vetor é -20.0 straightSubtraio um vetor com um valor y de 10.094999999999965O valor para y que eu esperaria ...
Problemas de casas decimais com carros alegóricos e decimais.
Parece que estou perdendo muita precisão com carros alegóricos. Por exemplo, eu preciso resolver uma matriz: 4.0x -2.0y 1.0z =11.0 1.0x +5.0y -3.0z =-6.0 2.0x +2.0y +5.0z =7.0Este é o código que eu uso para importar a matriz de um arquivo de ...
Manipulando e comparando pontos flutuantes em java
Em Java, a aritmética de ponto flutuante não é representada com precisão. Por exemplo, este código java: float a = 1.2; float b= 3.0; float c = a * b; if(c == 3.6){ System.out.println("c is 3.6"); } else { System.out.println("c is not 3.6"); ...
Precisão de ponto flutuante C ++ [duplicado]
Possível duplicado: Exemplos de imprecisão de ponto flutuante [https://stackoverflow.com/questions/2100490/floating-point-inaccuracy-examples] double a = 0.3; std::cout.precision(20); std::cout << a << ...
Por que uma variável do tipo double teria um resultado inesperado?
Minha verificação de sanidade falha porque uma variável dupla não contém o resultado esperado, é realmente bizarro. double a = 1117.54 + 8561.64 + 13197.37; double b = 22876.55; Console.WriteLine("{0} == {1}: {2}", a, b, a == b);Dá-nos esta ...
Implementação do algoritmo Payne Hanek em C
Estou lutando para entender como IMPLEMENTAR o algoritmo de redução de faixa publicado por Payne e Hanek (redução de faixa para funções trigonométricas) Eu já vi essa biblioteca:http://www.netlib.org/fdlibm/ [http://www.netlib.org/fdlibm/] Mas ...
Qual é a solução padrão em JavaScript para lidar com grandes números (BigNum)? [fechadas]
Existe uma biblioteca bignum para JavaScript ou embutida que eu possa incluir como <script type="text/javascript" src="the_bignum_library.js"></script>? Acho que meus usuários preferem digitar números em uma página da web e esperar 7 segundos ...
Obtendo a parte decimal de um duplo no Swift
Estou tentando separar as partes decimais e inteiras de um duplo in swift. Eu tentei várias abordagens, mas todas elas enfrentam o mesmo problema ... let x:Double = 1234.5678 let n1:Double = x % 1.0 // n1 = 0.567800000000034 let n2:Double = x - ...
Precisão C ++: String to Double
Estou tendo um problema com a precisão de um duplo depois de executar algumas operações em uma seqüência de caracteres convertida em duplo. #include <iostream> #include <sstream> #include <math.h> using namespace std; // conversion function void ...