Resultados da pesquisa a pedido "floating-point"

6 a resposta

C # Math.Pow () está quebrado

2 a resposta

Lua - números de ponto flutuante de precisão simples IEEE754

2 a resposta

Obter os "bits" de um float em Python?

6 a resposta

Figuras significativas no módulo decimal

4 a resposta

Formatação de flutuação em C ++

2 a resposta

Duas funções muito semelhantes envolvendo sin () exibem desempenho muito diferente - por quê?

Considere os dois programas a seguir que executam os mesmos cálculos de duas maneiras diferentes:

12 a resposta

Formatar carros alegóricos com o módulo json padrão

Estou usando o padrãomódulo json no python 2.6 para serializar uma lista de floats. No entanto, estou obtendo resultados assim:

1 a resposta

Elemento neutro para min () e max () na redução de OpenCL

Estou fazendo uma redução (encontrando o mínimo e máximo) de um

2 a resposta

o resultado da flutuação é impreciso [duplicado]

5 a resposta

Posso confiar na solução de precisão PHP php.ini para o problema de ponto flutuante