Resultados da pesquisa a pedido "floating-point"
Is floating point math broken
Considere o seguinte código: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004Por que essas imprecisões acontecem?
idando com problemas de precisão em números de ponto flutuan
Eu queria saber se existe uma maneira de superar um problema de precisão que parece ser o resultado da representação interna da minha máquina de números de ponto flutuante: Por uma questão de clareza, o problema está resumido em: // str is ...
Como comparar corretamente valores decimais em c #?
Venho de um background em C ++ e sei que você não pode comparar com precisão flutuadores para igualdade. Para C #, simplesmente presumi que a mesma política se aplica a valores decimais ou a qualquer valor de ponto flutuante em gera ...
Existe alguma moeda javascript boa ou classes decimais?
Estou tentando lidar com valores JavaScript como 23.45, mas quero poder fazer operações matemáticas nesses valores (adição, subtração, multiplicação, divisão) sem encontrar problemas de ponto flutuante. Sim, às vezes, talvez seja necessário ...
Converter float para dobrar perde precisão, mas não via ToString
Eu tenho o seguinte código float f = 0.3f; double d1 = System.Convert.ToDouble(f); double d2 = System.Convert.ToDouble(f.ToString());Os resultados são equivalentes a: d1 = 0.30000001192092896; d2 = 0.3; Estou curioso para descobrir por que isso é?
Javascript flutuar subtrair
Eu queria saber como posso subtrair dois números negativos de ponto flutuante em javascript. Eu tentei alert(-0.2-0.1);e o resultado é-0.30000000000000004. Estou fazendo algo errado? O que preciso fazer para obter-0.3 ?
Como obter um número aleatório entre um intervalo de flutuação?
randrange(start, stop) usa apenas argumentos inteiros. Então, como obter um número aleatório entre dois valores flutuantes?
Java ponto flutuante matemática - (conversão para pés / metros)
Pergunta básica muito boa - eu estou executando esta função: private double convertMetersToFeet(double meters) { //function converts Feet to Meters. double toFeet = meters; toFeet = meters*3.2808; // official conversion rate of Meters to Feet ...
Quais são os aplicativos / benefícios de um tipo de dados de precisão estendida de 80 bits?
Sim, eu quis dizer 80 bits. Isso não é um erro de digitação ... Minha experiência com variáveis de ponto flutuante sempre envolveu múltiplos de 4 bytes, como simples (32 bits), duplos (64 bits) e duplos longos (que eu já vi referidos como 96 ...
Format number para sempre mostrar 2 casas decimais
Gostaria de formatar meus números para sempre exibir duas casas decimais, arredondando, quando aplicáve Exemplos number display ------ ------- 1 1.00 1.341 1.34 1.345 1.35Estive usando isso: parseFloat(num).toFixed(2);Mas está exibindo1 ...