Resultados de la búsqueda a petición "ieee-754"
En Scala, ¿por qué NaN no está siendo recogido por la coincidencia de patrones?
Mi método es el siguiente def myMethod(myDouble: Double): Double = myDouble match { case Double.NaN => ... case _ => ... }El depurador IntelliJ muestra NaN pero esto no se está recogiendo en mi coincidencia de patrones. ¿Hay posibles casos que ...
¿Qué lenguajes exponen las trampas IEEE 754 al desarrollador?
Me gustaría jugar con esas trampas con fines educativos. Un problema común con el comportamiento predeterminado en el cálculo numérico es que "extrañamos" el Nan (o + -inf) que apareció en una operación incorrecta. El comportamiento ...
IEEE 754: ¿Cómo funciona exactamente?
¿Por qué se comporta el siguiente código como lo hace en C? float x = 2147483647; //2^31 printf("%f\n", x); //Outputs 2147483648 Aquí está mi proceso de pensamiento: 2147483647 = 0 1001 1101 1111 1111 1111 1111 1111 ...
Algoritmo para convertir un IEEE 754 doble en una cadena?
Muchos lenguajes de programación que usan dobles IEEE 754 proporcionan una función de biblioteca para convertir esos dobles en cadenas. Por ejemplo, C tienesprintf, C ++ tienestringstream, Java tieneDouble.toString, etc. Internalmente, ¿cómo se ...
doble aritmética e igualdad en Java
Aquí hay una rareza (para mí, al menos). Esta rutina imprime verdadero: double x = 11.0; double y = 10.0; if (x-y == 1.0) { // print true } else { // print false } Pero esta rutina imprime falso: double x = 1.1; double y = 1.0; if (x-y == 0.1) ...
Asegurar los dobles de C ++ son 64 bits
En mi programa C ++, necesito extraer un flotante de 64 bits de una secuencia de bytes externa. ¿Hay alguna manera de garantizar, en tiempo de compilación, que los dobles sean de 64 bits? ¿Hay algún otro tipo que debería usar para almacenar los ...
¿Qué es un número de coma flotante subnormal?
isnormal () página de referencia [http://en.cppreference.com/w/cpp/numeric/math/isnormal] dice: Determina si el número de coma flotante dado arg es normal, es decir, no es cero, subnormal, infinito ni NaN. Un número que es cero, infinito o NaN ...
¿Cómo restar números IEEE 754?
¿Cómo resto los números IEEE 754? Por ejemplo: 0,546875 - 32.875 ... -> 0,546875 es 0 01111110 10001100000000000000000 en IEEE-754 -> -32.875 es 1 10000111 01000101111000000000000 en IEEE-754 Entonces, ¿cómo hago la resta? Sé que tengo ...
Extrayendo el exponente y la mantisa de un número Javascript
Existe una forma razonablemente rápida de extraer el exponente y la mantisa de un Número en Javascript? AFAIK no hay forma de llegar a los bits detrás de un Número en Javascript, lo que me hace pensar que estoy viendo un problema de ...