Resultados da pesquisa a pedido "precision"

2 a resposta

Converter número de Java para BigDecimal: melhor maneira

Eu estou procurando a melhor maneira de converter um número para um BigDecimal.Isso é bom o suficiente?

5 a resposta

Mostrar dois dígitos após o ponto decimal em c ++ [duplicado]

1 a resposta

Teste de igualdade de ponto flutuante e precisão extra: este código pode falhar?

3 a resposta

Números de ponto flutuante de alta precisão em Haskell?

Eu sei Haskell tem tipos de dados nativos que permitem que você tenha realmente grandes números inteiros para coisas como

1 a resposta

Especificar o tipo de ponto flutuante é suficiente para garantir os mesmos resultados?

3 a resposta

Perda de precisão na adição de duplas?

pessoal! Eu encontrei um pequeno problema: estou fazendo uma adição simples com três valores duplos. O resultado tem uma precisão menor que os valores usados.

30 a resposta

Resultados inesperados ao trabalhar com inteiros muito grandes em idiomas interpretados

2 a resposta

Um cálculo de Monte Carlo pi pode ser usado para um recorde mundial?

Eu tenho essa função aleatória para calcular piEstilo Monte Carlo:

2 a resposta

Erro Aritmético do Ponto Flutuante

3 a resposta

Por que a saída de inv () e pinv () não é igual em Matlab e Octave?