Resultados da pesquisa a pedido "floating-accuracy"
php intval () e floor () retornam valor muito baixo?
Como o tipo de dados flutuantes no PHP é impreciso e um FLOAT no MySQL ocupa mais espaço que um INT (e é impreciso), eu sempre armazeno preços como INTs, multiplicando por 100 antes de armazenar para garantir que tenhamos exatamente 2 casas ...
Como faço para definir a precisão do ponto flutuante em Perl?
Existe uma maneira de definir a precisão de ponto flutuante do script Perl (para 3 dígitos), sem ter que alterá-lo especificamente para cada variável?Algo se...
Implementação do algoritmo Payne Hanek em C
Estou lutando para entender como IMPLEMENTAR o algoritmo de redução de faixa publicado por Payne e Hanek (redução de faixa para funções trigonométricas) Eu já vi essa biblioteca:http://www.netlib.org/fdlibm/ [http://www.netlib.org/fdlibm/] Mas ...
Is floating point math broken
Considere o seguinte código: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004Por que essas imprecisões acontecem?
Precisão arbitrária de ponto flutuante Python disponível?
Só por diversão e porque foi muito fácil, eu escrevi um programa curto para gerarEnxertando números, mas por causa de problemas de precisão de ponto flutuant...
Resultado do casting duplo para int está errado
Parece haver algum tipo de erro de arredondamento obscuro quando executo o seguinte código:
ritmética dupla e igualdade em Ja
Aqui está uma singularidade (para mim, pelo menos). Essa rotina é verdadeira: double x = 11.0; double y = 10.0; if (x-y == 1.0) { // print true } else { // print false }Mas essa rotina imprime false: double x = 1.1; double y = 1.0; if (x-y == ...