Resultados da pesquisa a pedido "precision"
Calcular o conjunto de Mandelbrot para maior precisão
Existe alguma maneira prática de realizar cálculos, como os envolvidos na geração do Mandelbrot Set, para valores precisos quedouble oulong double pode fornecer? Eu estava pensando em possivelmente ter duas variáveis (duplas ou longas), uma ...
Como calcular dígitos decimais de precisão com base no número de bits?
Estou aprendendo sobre formatos de ponto flutuante (IEEE). No formato de ponto flutuante de precisão única, menciona-se que a mantissa tem 24 bits e, portant...
Dividindo dois inteiros para produzir um resultado flutuante [duplicado]
Duplicata Possível:Por que não posso devolver um duplo de dois ints sendo divididoMeu programa C ++ está truncar a saída do meu inteiro, mesmo quando tento c...
Algoritmo Point in Polygon dando resultados errados às vezes [fechado]
Eu vi no StackOverflow um algoritmo de raytracing "point in polygon" que eu implementei no meu PHP Code. Na maioria das vezes, funciona bem, mas em...
Como trabalhar com grandes números em R?
Gostaria de alterar a precisão em um cálculo de R. Por exemplo, gostaria de calcularx^6 comx = c(-2.5e+59, -5.6e+60). Para calcular, devo alterar a precisão em R, caso contrário, o resultado éInfe não sei como fazê-lo.
O que exatamente é o parâmetro de “resolução” do numpy float
Estou buscando um pouco mais de entendimento sobre o parâmetro "resolution" de um float numpy (acho que qualquer float definido por computador para esse assunto). Considere o seguinte script: import numpy as np a = np.finfo(10.1) print aRecebo ...
Como você converte para half floats em JavaScript?
Eu quero poder usar oOES_texture_half_float extensão no WebGL e fornecer meus próprios dados, mas não háFloat16Array em JavaScript. Então, como eu gero dados de meio flutuador?