Resultados da pesquisa a pedido "floating-point"
Manipulando e comparando pontos flutuantes em java
Em Java, a aritmética de ponto flutuante não é representada com precisão. Por exemplo, este código java: float a = 1.2; float b= 3.0; float c = a * b; if(c == 3.6){ System.out.println("c is 3.6"); } else { System.out.println("c is not 3.6"); ...
Precisão de ponto flutuante C ++ [duplicado]
Possível duplicado: Exemplos de imprecisão de ponto flutuante [https://stackoverflow.com/questions/2100490/floating-point-inaccuracy-examples] double a = 0.3; std::cout.precision(20); std::cout << a << ...
Por que uma variável do tipo double teria um resultado inesperado?
Minha verificação de sanidade falha porque uma variável dupla não contém o resultado esperado, é realmente bizarro. double a = 1117.54 + 8561.64 + 13197.37; double b = 22876.55; Console.WriteLine("{0} == {1}: {2}", a, b, a == b);Dá-nos esta ...
Aritmética de ponto flutuante - operador de módulo no tipo duplo
Então, eu estou tentando descobrir por que o operador do módulo está retornando um valor incomum tão grande. Se eu tiver o código: double result = 1.0d % 0.1d; vai dar um resultado de0.09999999999999995. Eu esperaria um valor de0 Observe que ...
Converter float em string com precisão e número de dígitos decimais especificados?
Como você converte um float em uma string em C ++ enquanto especifica a precisão e o número de dígitos decimais? Por exemplo:3.14159265359 -> "3.14"
Como comparar eficientemente o sinal de dois valores de ponto flutuante ao manipular zeros negativos
Dados dois números de ponto flutuante, estou procurando umeficiente maneira de verificar se eles têm o mesmo sinal,considerando que se qualquer um dos dois valores for zero (+0,0 ou -0,0), eles deverão ser considerados como tendo o mesmo ...
Por que C não possui carros alegóricos não assinados?
Eu sei, a pergunta parece estranha. Os programadores às vezes pensam demais. Por favor, leia em ... Em C eu usosigned eunsigned inteiros muito. Eu gosto do fato de que o compilador me avisa se eu fizer coisas como atribuir um número inteiro ...
Quantos números duplos existem entre 0,0 e 1,0?
Isso é algo que me ocorre há anos, mas nunca tive tempo para perguntar antes. Muitos geradores de números aleatórios (pseudo) geram um número aleatório entre 0,0 e 1,0. Matematicamente, existem números infinitos nesse intervalo, masdouble é um ...
É correto assumir que amostras de ponto flutuante em um arquivo WAV ou AIFF serão normalizadas?
Digamos que eu tenha um programa que leia um arquivo .WAV ou .AIFF e o áudio do arquivo seja codificado como valores de amostra de ponto flutuante. É correto que meu programa assuma que qualquer arquivo .WAV ou .AIFF bem formado (com base em ...
Convertendo float em char *
Como posso converter umfloat valor parachar* noC língua?