Resultados da pesquisa a pedido "floating-point"

8 a resposta

Manipulando e comparando pontos flutuantes em java

Em Java, a aritmética de ponto flutuante não é representada com precisão. Por exemplo, este código java: float a = 1.2; float b= 3.0; float c = a * b; if(c == 3.6){ System.out.println("c is 3.6"); } else { System.out.println("c is not 3.6"); ...

5 a resposta

Precisão de ponto flutuante C ++ [duplicado]

Possível duplicado: Exemplos de imprecisão de ponto flutuante [https://stackoverflow.com/questions/2100490/floating-point-inaccuracy-examples] double a = 0.3; std::cout.precision(20); std::cout << a << ...

6 a resposta

Por que uma variável do tipo double teria um resultado inesperado?

Minha verificação de sanidade falha porque uma variável dupla não contém o resultado esperado, é realmente bizarro. double a = 1117.54 + 8561.64 + 13197.37; double b = 22876.55; Console.WriteLine("{0} == {1}: {2}", a, b, a == b);Dá-nos esta ...

4 a resposta

Aritmética de ponto flutuante - operador de módulo no tipo duplo

Então, eu estou tentando descobrir por que o operador do módulo está retornando um valor incomum tão grande. Se eu tiver o código: double result = 1.0d % 0.1d; vai dar um resultado de0.09999999999999995. Eu esperaria um valor de0 Observe que ...

5 a resposta

Converter float em string com precisão e número de dígitos decimais especificados?

Como você converte um float em uma string em C ++ enquanto especifica a precisão e o número de dígitos decimais? Por exemplo:3.14159265359 -> "3.14"

3 a resposta

Como comparar eficientemente o sinal de dois valores de ponto flutuante ao manipular zeros negativos

Dados dois números de ponto flutuante, estou procurando umeficiente maneira de verificar se eles têm o mesmo sinal,considerando que se qualquer um dos dois valores for zero (+0,0 ou -0,0), eles deverão ser considerados como tendo o mesmo ...

11 a resposta

Por que C não possui carros alegóricos não assinados?

Eu sei, a pergunta parece estranha. Os programadores às vezes pensam demais. Por favor, leia em ... Em C eu usosigned eunsigned inteiros muito. Eu gosto do fato de que o compilador me avisa se eu fizer coisas como atribuir um número inteiro ...

6 a resposta

Quantos números duplos existem entre 0,0 e 1,0?

Isso é algo que me ocorre há anos, mas nunca tive tempo para perguntar antes. Muitos geradores de números aleatórios (pseudo) geram um número aleatório entre 0,0 e 1,0. Matematicamente, existem números infinitos nesse intervalo, masdouble é um ...

3 a resposta

É correto assumir que amostras de ponto flutuante em um arquivo WAV ou AIFF serão normalizadas?

Digamos que eu tenha um programa que leia um arquivo .WAV ou .AIFF e o áudio do arquivo seja codificado como valores de amostra de ponto flutuante. É correto que meu programa assuma que qualquer arquivo .WAV ou .AIFF bem formado (com base em ...

7 a resposta

Convertendo float em char *

Como posso converter umfloat valor parachar* noC língua?