Resultados da pesquisa a pedido "floating-point"
Por que essa subtração não é igual a zero?
Eu deparei com esses valores no meu código do ColdFusion, mas a calculadora do Google parece ter o mesmo "bug", onde a diferença é diferente de zero. 416582.2850 - 411476.8100 - 5105.475 = ...
C - Como verificar se o número é inteiro ou flutuante? [fechadas]
Exercício 30 Escreva um programa que leia o valor flutuante desenvolvido como extensão decimal e Se for inteiro, diz que é inteiropor outro lado, arredonda para inteiro e grava o resultado.Lembre-se do controle de dados Aqui está o novo sem ...
Esclarecimento sobre o tipo decimal em Python
Todo mundo sabe, ou pelo menos,todos os programadores devem saber [http://docs.oracle.com/cd/E19957-01/806-3568/ncg_goldberg.html], que usando ofloat O tipo pode levar a erros de precisão. No entanto, em alguns casos, uma solução exata seria ...
Python, imprima todos os carros alegóricos com 2 casas decimais na saída
Eu preciso produzir 4 carros alegóricos diferentes para duas casas decimais. Isto é o que eu tenho: print '%.2f' % var1,'kg =','%.2f' % var2,'lb =','%.2f' % var3,'gal =','%.2f' % var4,'l'O que é muito impuro e parece ruim. Existe uma maneira de ...
rodada em PHP mostra notação científica em vez de número completo
Estou tentando fazer um eco de uma variável contendo 1400000. por isso está escrito:echo round(1400000); isso dá 1,4E + 6 em vez do número completo. Alguém tem uma idéia de como exibi-lo totalmente?
c ++ comparando dois valores de ponto flutuante
Eu estou querendo saber qual é a diferença para comparar duas duplas entre estas duas maneiras: double a1 = ...; double a2 = ....; fabs (a1-a2) <epsilon(fabs (a1-a2) / a2) <epsilonExiste uma maneira preferida de fazer isso? obrigado
Truncar (não arredondar) números decimais em javascript
Estou tentando truncar números decimais para casas decimais. Algo assim: 5.467 -> 5.46 985.943 -> 985.94toFixed(2) faz a coisa certa, mas arredonda o valor. Não preciso do valor arredondado. Espero que isso seja possível em javascript.
precisão 'float' vs. 'double'
O código float x = 3.141592653589793238; double z = 3.141592653589793238; printf("x=%f\n", x); printf("z=%f\n", z); printf("x=%20.18f\n", x); printf("z=%20.18f\n", z);lhe dará a saída x=3.141593 z=3.141593 x=3.141592741012573242 ...
Representação de dupla precisão (64 bits) do valor numérico em R (sinal, expoente, significando)
R FAQ [https://cran.r-project.org/doc/FAQ/R-FAQ.html#Why-doesn_0027t-R-think-these-numbers-are-equal_003f] afirma que: Os únicos números que podem ser representados exatamente no tipo numérico de R são números inteiros e frações cujo denominador ...
Por que não recebo zero quando subtraio o mesmo número de ponto flutuante de si no Perl? [duplicado]
Possíveis duplicatas: Por que a aritmética de ponto flutuante em C # é imprecisa? [https://stackoverflow.com/questions/753948/why-is-floating-point-arithmetic-in-c-imprecise] Por que o ghci diz que 1.1 + 1.1 + 1.1> 3.3 é ...