Resultados da pesquisa a pedido "floating-point-precision"

1 a resposta

Como evitar erros de ponto flutuante?

4 a resposta

tamanho de duplo longo e precisão não combinando?

Considere o seguinte código C:

4 a resposta

comparação dupla e flutuante [duplicata]

Esta questão já tem uma resposta aqui:Comparando float e double 3 respostasDe acordo comesta postagem, ao comparar um float e um double, o float deve ser tra...

7 a resposta

Especificador de largura de impressão para manter a precisão do valor de ponto flutuante

Tem alguma

4 a resposta

Qualquer risco de usar variáveis ​​flutuantes como contadores de loop e seu incremento / decremento fracionário para condições não "=="?

É seguro usar floats como contadores de loops e aumentá-los / diminuí-los em quantidades fracionárias em cada iteração, como no programa aparentemente livre ...

2 a resposta

Veja o próximo menor número duplo

Como parte de um teste de unidade, preciso testar algumas condições de contorno. Um método aceita um

5 a resposta

Erro ao usar (int) e (double) juntos para cortar decimais

Quando estou usando (int) com (double) algumas vezes não está funcionando corretamente.Veja o exemplo do código PHP:Preciso deixar 2 decimais e REMOVER outro...

6 a resposta

C ++ Como evitar erro aritmético de ponto flutuante

1 a resposta

Por que usar o módulo em valores não inteiros perde a precisão de ponto flutuante? [duplicado]

Esta questão já tem uma resposta aqui:Por que vejo uma variável dupla inicializada com algum valor como 21.4 como 21.399999618530273? 14 respostasEu estou qu...

3 a resposta

Java - perda máxima de precisão em uma adição / subtração dupla

É possível estabelecer, ainda que grosso modo, qual seria a perda máxima de precisão ao lidar com dois