Resultados da pesquisa a pedido "ieee-754"
Ponto flutuante de meia precisão em Java
Existe uma biblioteca Java em qualquer lugar que possa executar cálculos emeia precisão @IEEE 754 [http://en.wikipedia.org/wiki/Half_precision_floating-point_format] números ou converta-os para e de precisão dupla? Qualquer uma dessas ...
its de precisão flutuante
Neste wikiartig [http://en.wikipedia.org/wiki/Single_precision_floating-point_format] mostra 23 bits para precisão, 8 para expoente e 1 para sinal nde está o 24º bit oculto no tipo float que produz (23 + 1) para 7 dígitos significativo
Java - Converte hex para IEEE-754 float de 64 bits - precisão dupla
Estou tentando converter a seguinte sequência hexadecimal: "41630D54FFF68872" para 9988776.0 (float-64). Com um único flutuador de precisão 32, eu faria: int intBits = Long.valueOf("hexFloat32", 16).intValue(); float floatValue ...
Padrão para o seno de números muito grandes
Estou escrevendo uma implementação de ponto flutuante (quase) compatível com IEEE 854 no TeX (que suporta apenas números inteiros de 32 bits). Este padrão especifica apenas o resultado de+, -, *, /, comparação, restante esqrt: para essas ...
Em Scala, por que o NaN não está sendo capturado pela correspondência de padrões?
Meu método é o seguinte def myMethod(myDouble: Double): Double = myDouble match { case Double.NaN => ... case _ => ... }O depurador IntelliJ está mostrando NaN, mas isso não está sendo detectado na minha correspondência de padrões. Existem ...
quais idiomas expõem as armadilhas IEEE 754 ao desenvolvedor?
Gostaria de brincar com essas armadilhas para fins educacionai Um problema comum com o comportamento padrão no cálculo numérico é que "sentimos falta" do Nan (ou + -inf) que apareceu em uma operação errada. O comportamento padrão é a ...
IEEE 754: Como exatamente funciona?
Por que o código a seguir se comporta como em C? float x = 2147483647; //2^31 printf("%f\n", x); //Outputs 2147483648Aqui está o meu processo de pensamento: 2147483647 = 0 1001 1101 1111 1111 1111 1111 1111 111 (0.11111111111111111111111)base2 ...
Algoritmo para converter um IEEE 754 duplo em uma strin
uitas linguagens de programação que usam duplas IEEE 754 fornecem uma função de biblioteca para converter essas duplas em seqüências de caracteres. Por exemplo, C temsprintf, C ++ temstringstream, Java temDouble.toString etc. Internamente, como ...
ritmética dupla e igualdade em Ja
Aqui está uma singularidade (para mim, pelo menos). Essa rotina é verdadeira: double x = 11.0; double y = 10.0; if (x-y == 1.0) { // print true } else { // print false }Mas essa rotina imprime false: double x = 1.1; double y = 1.0; if (x-y == ...
Assegurar C ++ duplos são 64 bits
No meu programa C ++, preciso extrair um float de 64 bits de uma sequência de bytes externa. Existe alguma maneira de garantir, em tempo de compilação, que as duplas sejam de 64 bits? Existe algum outro tipo que devo usar para armazenar ...