Resultados da pesquisa a pedido "floating-point"

8 a resposta

Como faço para corrigir esse código Perl para que 1.1 + 2.2 == 3.3?

Como faço para corrigir esse código para que 1.1 + 2.2 == 3.3? O que realmente está acontecendo aqui, causando esse comportamento? Estou vagamente familiarizado com problemas de arredondamento e matemática de ponto flutuante, mas achei que isso ...

2 a resposta

Obtendo resposta errada em aritmética dupla em Java [duplicado]

4 a resposta

Aritmética de ponto flutuante no shell script UNIX

Como fazer aritmética com números de ponto flutuante, como1,503923 em um script de shell? Os números de ponto flutuante são extraídos de um arquivo como uma ...

6 a resposta

Como imprimir um duplo com uma vírgula

Em C ++ eu tenho uma variável float / double.Quando imprimo isso com, por exemplo, a string resultante é delimitada por período.

1 a resposta

Enquanto 3 * 0.1 não podem ser representados exatamente, por que o Javascript pode calcular corretamente 0,15 * 2? [duplicado]

Duplicata Possível:A matemática de ponto flutuante do JavaScript está corrompida?Em Javascript,

2 a resposta

Encontre o flutuante logo abaixo de um valor

0 a resposta

Por que a Microsoft não queria corrigir as implementações erradas de Equals e GetHashCode com NaN? [fechadas]

2 a resposta

Maneira eficiente de arredondar números de precisão dupla para uma precisão menor dada em número de bits

1 a resposta

representação de bits de um número duplo

2 a resposta

Arredondamento incorreto de flutuação ao usar ToString ("F1")