Resultados da pesquisa a pedido "ieee-754"
Modos de arredondamento e adição padrão multiplicados por fusão
Com o GCC 5.3, o seguinte código compield com-O3 -fma float mul_add(float a, float b, float c) { return a*b + c; }produz o seguinte conjunto vfmadd132ss %xmm1, %xmm2, %xmm0 retNotei o GCC fazendo isso com-O3 já no GCC ...
Matlab vs C ++ Double Precision
Estou portando algum código do Matlab para C ++. Na Matlab format long D = 0.689655172413793 (this is 1.0 / 1.45) E = 2600 / D // I get E = 3.770000000000e+03Em C ++ double D = 0.68965517241379315; //(this is 1.0 / 1.45) double E = 2600 / D; ...
Por que o Excel não arredonda de acordo com o IEEE 754 de 8 bytes
A expressão a seguir avalia comofalse em c #: (1 + 1 + 0.85) / 3 <= 0.95E suponho que o faça na maioria das outras linguagens de programação que implementam o IEEE 754, já que(1 + 1 + 0.85) / 3 avalia como0.95000000000000007, que é maior ...
Existe alguma maneira de ver um número em sua representação IEEE754 flutuante de 64 bits
Javascript armazena todos os números como valores IEEE 754 de precisão dupla no formato 64 bits, de acordo com oespecificação [http://www.ecma-international.org/publications/files/ECMA-ST/Ecma-262.pdf]: O tipo Number tem exatamente ...
A explicação de Layman sobre por que o JavaScript tem uma matemática flutuante estranha - padrão IEEE 754 [duplicado]
Esta pergunta já tem uma resposta aqui: A matemática do ponto flutuante está quebrada? [/questions/588004/is-floating-point-math-broken] 28 respostas Nunca entendo exatamente o que está acontecendo com o JavaScript quando faço ...
Malabarismo de tipo e (estrito) maior / menor que comparações no PHP
@PHP é famoso por seu tipo de malabarismo. Devo admitir que isso me intriga, e estou tendo dificuldades para descobrir coisas básicas lógicas / fundamentais nas comparaçõe Por exemplo: Se$a > $b é verdadeiro e$b > $c é verdade, deve significar ...
Por que NaN não é igual a NaN? [duplicado
Esta pergunta já tem uma resposta aqui: Qual é a justificativa para todas as comparações que retornam false para valores NaN IEEE754? [/questions/1565164/what-is-the-rationale-for-all-comparisons-returning-false-for-ieee754-nan-values] 3 ...
Como esta aproximação de raiz quadrada flutuante funciona?
Encontrei uma aproximação de raiz quadrada bastante estranha, mas funcional, parafloats; Eu realmente não entendo. Alguém pode me explicar por que esse código funciona? float sqrt(float f) { const int result = 0x1fbb4000 + (*(int*)&f >> 1); ...
Como verificar se o compilador C ++ usa o padrão de ponto flutuante IEEE 754
Gostaria de fazer uma pergunta a seguirest [https://stackoverflow.com/questions/752309/ensuring-c-doubles-are-64-bits], que é bastante bem respondido pela verificação de definição, se o compilador usa o padrão. No entanto, isso funciona apenas ...
Quais são os aplicativos / benefícios de um tipo de dados de precisão estendida de 80 bits?
Sim, eu quis dizer 80 bits. Isso não é um erro de digitação ... Minha experiência com variáveis de ponto flutuante sempre envolveu múltiplos de 4 bytes, como simples (32 bits), duplos (64 bits) e duplos longos (que eu já vi referidos como 96 ...