Resultados da pesquisa a pedido "ieee-754"
Como esta aproximação de raiz quadrada flutuante funciona?
Encontrei uma aproximação de raiz quadrada bastante estranha, mas funcional, parafloats; Eu realmente não entendo. Alguém pode me explicar por que esse código funciona? float sqrt(float f) { const int result = 0x1fbb4000 + (*(int*)&f >> 1); ...
IEEE duplica de forma que sqrt (x * x) ≠ x
Existe um duplo IEEEx>0 de tal modo quesqrt(x*x) ≠ x, sob a condição de que o cálculox*x não transborda ou transborda paraInf, 0, ou um número denormal? Isto é dado quesqrt retorna o resultado representável mais próximo e o mesmo acontecex*x ...
O que é overflow e underflow no ponto flutuante
Eu sinto que realmente não entendo o conceito deoverflow eunderflow. Estou fazendo esta pergunta para esclarecer isso. Eu preciso entender isso no seu nível mais básico com bits. Vamos trabalhar com a representação simplificada de ponto flutuante ...
Por que o valor do ponto flutuante de 4 * 0,1 fica bonito no Python 3, mas 3 * 0.1 não?
Eu sei que a maioria dos decimais não tem uma representação exata de ponto flutuante (A matemática do ponto flutuante está quebrada? [https://stackoverflow.com/questions/588004]) Mas não vejo por que4*0.1 é impresso bem como0.4, mas3*0.1 não é, ...
Convertendo IEEE 754 do fluxo de bits em float em JavaScript
Eu serializei o número flutuante de 32 bits usando a função de idioma GO ( math.Float32bits [https://golang.org/pkg/math/#Float32bits]), que retorna o número do ponto flutuante correspondente à representação binária IEEE 754. Esse número é ...
Existe alguma maneira de ver um número em sua representação IEEE754 flutuante de 64 bits
Javascript armazena todos os números como valores IEEE 754 de precisão dupla no formato 64 bits, de acordo com oespecificação [http://www.ecma-international.org/publications/files/ECMA-ST/Ecma-262.pdf]: O tipo Number tem exatamente ...
Por que o Excel não arredonda de acordo com o IEEE 754 de 8 bytes
A expressão a seguir avalia comofalse em c #: (1 + 1 + 0.85) / 3 <= 0.95E suponho que o faça na maioria das outras linguagens de programação que implementam o IEEE 754, já que(1 + 1 + 0.85) / 3 avalia como0.95000000000000007, que é maior ...
Matlab vs C ++ Double Precision
Estou portando algum código do Matlab para C ++. Na Matlab format long D = 0.689655172413793 (this is 1.0 / 1.45) E = 2600 / D // I get E = 3.770000000000e+03Em C ++ double D = 0.68965517241379315; //(this is 1.0 / 1.45) double E = 2600 / D; ...
Modos de arredondamento e adição padrão multiplicados por fusão
Com o GCC 5.3, o seguinte código compield com-O3 -fma float mul_add(float a, float b, float c) { return a*b + c; }produz o seguinte conjunto vfmadd132ss %xmm1, %xmm2, %xmm0 retNotei o GCC fazendo isso com-O3 já no GCC ...
Quais são os usos das cargas úteis de NaN de ponto flutuante?
Eu sei que o IEEE 754 define NaNs para ter a seguinte representação em bits: O bit de sinal pode ser0 ou1O campo expoente contém todos1 bitsAlguns bits da mantissa são usados para especificar se é um NaN silencioso ou NaN sinalizadorA mantissa ...