Resultados da pesquisa a pedido "ieee-754"
Converter IEEE float hex para decimal?
Se eu tenho um hexágono flutuante IEEE 42F6E979, como o converto em decimal? Eu acredito que a representação decimal é = 123.456001
Por que o valor do ponto flutuante de 4 * 0,1 fica bonito no Python 3, mas 3 * 0.1 não?
Eu sei que a maioria dos decimais não tem uma representação exata de ponto flutuante (A matemática do ponto flutuante está quebrada? [https://stackoverflow.com/questions/588004]) Mas não vejo por que4*0.1 é impresso bem como0.4, mas3*0.1 não é, ...
Como esta aproximação de raiz quadrada flutuante funciona?
Encontrei uma aproximação de raiz quadrada bastante estranha, mas funcional, parafloats; Eu realmente não entendo. Alguém pode me explicar por que esse código funciona? float sqrt(float f) { const int result = 0x1fbb4000 + (*(int*)&f >> 1); ...
quais idiomas expõem as armadilhas IEEE 754 ao desenvolvedor?
Gostaria de brincar com essas armadilhas para fins educacionai Um problema comum com o comportamento padrão no cálculo numérico é que "sentimos falta" do Nan (ou + -inf) que apareceu em uma operação errada. O comportamento padrão é a ...
IEEE 754: Como exatamente funciona?
Por que o código a seguir se comporta como em C? float x = 2147483647; //2^31 printf("%f\n", x); //Outputs 2147483648Aqui está o meu processo de pensamento: 2147483647 = 0 1001 1101 1111 1111 1111 1111 1111 111 (0.11111111111111111111111)base2 ...
Algoritmo para converter um IEEE 754 duplo em uma strin
uitas linguagens de programação que usam duplas IEEE 754 fornecem uma função de biblioteca para converter essas duplas em seqüências de caracteres. Por exemplo, C temsprintf, C ++ temstringstream, Java temDouble.toString etc. Internamente, como ...
A explicação de Layman sobre por que o JavaScript tem uma matemática flutuante estranha - padrão IEEE 754 [duplicado]
Esta pergunta já tem uma resposta aqui: A matemática do ponto flutuante está quebrada? [/questions/588004/is-floating-point-math-broken] 28 respostas Nunca entendo exatamente o que está acontecendo com o JavaScript quando faço ...
Ponto flutuante de meia precisão em Java
Existe uma biblioteca Java em qualquer lugar que possa executar cálculos emeia precisão @IEEE 754 [http://en.wikipedia.org/wiki/Half_precision_floating-point_format] números ou converta-os para e de precisão dupla? Qualquer uma dessas ...