Resultados da pesquisa a pedido "precision"

30 a resposta

Resultados inesperados ao trabalhar com inteiros muito grandes em idiomas interpretados

2 a resposta

Um cálculo de Monte Carlo pi pode ser usado para um recorde mundial?

Eu tenho essa função aleatória para calcular piEstilo Monte Carlo:

3 a resposta

Acelere a geração de números aleatórios no MATLAB

Existe alguma maneira de gerar números pseudo-aleatórios com menos precisão e, assim, acelerar o processo? Outra coisa é que sei que economiza tempo se números aleatórios forem gerados de uma só vez (por exemplo,rand(100,1000)), em vez de um por ...

2 a resposta

Erro Aritmético do Ponto Flutuante

3 a resposta

Por que a saída de inv () e pinv () não é igual em Matlab e Octave?

3 a resposta

Como faço para manter a precisão de um programa Fortran MPI de maneira portátil?

4 a resposta

Definir precisão para um número flutuante em PHP

Eu recebo um número do banco de dados e esse número pode ser

2 a resposta

Obtenha precisão de cout

3 a resposta

Precisão do tipo de dados do SQL Server - Neo, o que é real?

0 a resposta

Calcular o conjunto de Mandelbrot para maior precisão

Existe alguma maneira prática de realizar cálculos, como os envolvidos na geração do Mandelbrot Set, para valores precisos quedouble oulong double pode fornecer? Eu estava pensando em possivelmente ter duas variáveis (duplas ou longas), uma ...