Resultados da pesquisa a pedido "floating-point-precision"
próximo maior / menor número de precisão dupla IEEE
Eu estou fazendo cálculos científicos de alta precisão. Ao procurar a melhor representação de vários efeitos, continuo apresentando razões para querer obter ...
Como fazer números não serem mostrados em forma científica?
Eu quero escrever uma matriz de números de ponto flutuante em arquivos
Python: Encontre o índice do item mínimo na lista de carros alegóricos [duplicados]
Esta questão já tem uma resposta aqui:Obtendo o índice do item max ou min retornado usando max () / min () em uma lista 21 respostasComo posso encontrar o ín...
Java - perda máxima de precisão em uma adição / subtração dupla
É possível estabelecer, ainda que grosso modo, qual seria a perda máxima de precisão ao lidar com dois
Por que usar o módulo em valores não inteiros perde a precisão de ponto flutuante? [duplicado]
Esta questão já tem uma resposta aqui:Por que vejo uma variável dupla inicializada com algum valor como 21.4 como 21.399999618530273? 14 respostasEu estou qu...
Erro ao usar (int) e (double) juntos para cortar decimais
Quando estou usando (int) com (double) algumas vezes não está funcionando corretamente.Veja o exemplo do código PHP:Preciso deixar 2 decimais e REMOVER outro...
Veja o próximo menor número duplo
Como parte de um teste de unidade, preciso testar algumas condições de contorno. Um método aceita um
Qualquer risco de usar variáveis flutuantes como contadores de loop e seu incremento / decremento fracionário para condições não "=="?
É seguro usar floats como contadores de loops e aumentá-los / diminuí-los em quantidades fracionárias em cada iteração, como no programa aparentemente livre ...