Resultados da pesquisa a pedido "floating-point"
Multiplicação flutuante executando mais lentamente, dependendo dos operandos em C
Estou executando um cálculo de estêncil em uma matriz que li anteriormente de um arquivo. Eu uso dois tipos diferentes de matrizes (tipo diferente de zero e tipo zero). Ambos os tipos compartilham o valor dos limites (geralmente 1000), enquanto ...
Obter o valor flutuante NEGATIVO mínimo em C ++
Eu estava olhandostd::numeric_limits<float>::min/max() mas parece que 'min ()' retorna o menor valor absoluto, não omais baixo valor. É seguro usar -std::numeric_limits<float>::max(), ou seja, a flutuação é simétrica nos limites mínimo / máximo?
Usando a função math.isclose com valores próximos a 0
Como sabemos, devido à representação binária de números, essa expressão é avaliada comoFalse (pelo menos em Python): 0.2 + 0.4 == 0.6Para poder verificar a igualdade nos erros numéricos, o módulomath ofertasisclose: import math math.isclose(0.2 ...
Diferença entre flutuadores e ints em Javascript?
Estou pesquisando alguns dos códigos da Google Closure Library e encontrei esta linha: var isNegative = number < 0.0 || number == 0.0 && 1 / number < 0.0;Eu percebi que a razão para uma verificação de sinal tão estranhamente inicial ...
Computando com eficiência (a - K) / (a + K) com precisão aprimorada
Em vários contextos, por exemplo, para a redução de argumentos para funções matemáticas, é necessário calcular(a - K) / (a + K), Ondea é um argumento variável positivo eK é uma constante. Em muitos casos,K é um poder de dois, que é o caso de uso ...
Como verificar se uma string é analisável por um duplo? [duplicado]
Esta pergunta já tem uma resposta aqui: Como descobrir se o valor contido em uma string é duplo ou não [/questions/3133770/how-to-find-out-if-the-value-contained-in-a-string-is-double-or-not] 14 respostasExiste uma maneira nativa (de ...
O compilador otimizará a divisão em multiplicação
Dependendo dessa perguntaDivisão de ponto flutuante vs multiplicação de ponto flutuante [https://stackoverflow.com/questions/4125033/floating-point-division-vs-floating-point-multiplication] . A divisão é mais lenta que a multiplicação devido a ...
Saída incorreta do printf de um número
int main() { double i=4; printf("%d",i); return 0; }Alguém pode me dizer por que este programa fornece saída 0?
Matlab vs C ++ Double Precision
Estou portando algum código do Matlab para C ++. Na Matlab format long D = 0.689655172413793 (this is 1.0 / 1.45) E = 2600 / D // I get E = 3.770000000000e+03Em C ++ double D = 0.68965517241379315; //(this is 1.0 / 1.45) double E = 2600 / D; ...
Java epsilon de comparação dupla
Eu escrevi uma classe que testa igualdade, menor que e maior que com duas duplas em Java. Meu caso geral é comparar preços que podem ter precisão de meio centavo. 59,005 em comparação com 59,395. O epsilon que escolhi é adequado para esses ...