Resultados da pesquisa a pedido "precision"

2 a resposta

Obtenha precisão de cout

4 a resposta

Definir precisão para um número flutuante em PHP

Eu recebo um número do banco de dados e esse número pode ser

3 a resposta

Como faço para manter a precisão de um programa Fortran MPI de maneira portátil?

3 a resposta

Por que a saída de inv () e pinv () não é igual em Matlab e Octave?

2 a resposta

Erro Aritmético do Ponto Flutuante

2 a resposta

Um cálculo de Monte Carlo pi pode ser usado para um recorde mundial?

Eu tenho essa função aleatória para calcular piEstilo Monte Carlo:

30 a resposta

Resultados inesperados ao trabalhar com inteiros muito grandes em idiomas interpretados

3 a resposta

Perda de precisão na adição de duplas?

pessoal! Eu encontrei um pequeno problema: estou fazendo uma adição simples com três valores duplos. O resultado tem uma precisão menor que os valores usados.

1 a resposta

Especificar o tipo de ponto flutuante é suficiente para garantir os mesmos resultados?

3 a resposta

Números de ponto flutuante de alta precisão em Haskell?

Eu sei Haskell tem tipos de dados nativos que permitem que você tenha realmente grandes números inteiros para coisas como