Resultados de la búsqueda a petición "ieee-754"
¿Cómo aplicar operaciones bit a bit a la representación real IEEE 754 de números JS?
En JavaScript, cada vez que realiza una operación bit a bit comox << 2, la representación flotante de 64 bits se convierte en un int sin signo de 32 bits antes de que ocurra el cambio. Estoy interesado en aplicar el cambio a la representación bit ...
¿Por qué necesitamos el resto IEEE 754?
acabo de leereste tema [https://stackoverflow.com/questions/158120/math-ieeeremainder-returns-negative-results-why] (especialmente los últimos comentarios). Entonces me preguntaba, por qué realmente necesitamos esto era para dar el resto. Pero ...
¿Cómo imprime JavaScript 0.1 con tanta precisión?
HeEscuchó [https://stackoverflow.com/questions/1458633/elegant-workaround-for-javascript-floating-point-number-problem] que los números de JavaScript sonIEEE 754 [http://en.wikipedia.org/wiki/IEEE_floating_point]puntos flotantes, lo que explica ...
Convertir ieee754 a decimal en nodo
Tengo un buffer en el nodo<Buffer 42 d9 00 00> se supone que representa el decimal 108.5. Estoy usando este módulo para intentar decodificar el búfer: https://github.com/feross/ieee754 [https://github.com/feross/ieee754]. ieee754.read = function ...
Estado de __STDC_IEC_559__ con compiladores de C modernos
C99 agregó una macro__STDC_IEC_559__ que puede usarse para probar si un compilador y una biblioteca estándar cumplen con el estándar ISO / IEC / IEEE 60559 (o IEEE 754). Según las respuestas a esta ...
float128 y aritmética doble-doble
He visto en Wikipedia que de alguna manera implementar precisión cuádruple es usar aritmética doble-doble incluso si no es exactamente la misma precisión en términos de ...
¿Por qué Excel no se redondea según IEEE 754 de 8 bytes?
La siguiente expresión se evalúa comofalse Cía#: (1 + 1 + 0.85) / 3 <= 0.95Y supongo que lo hace en la mayoría de los otros lenguajes de programación que implementan IEEE 754, ya que(1 + 1 + 0.85) / 3 evalúa a0.95000000000000007, que es mayor ...
¿Qué es desbordamiento y subflujo en coma flotante?
Siento que realmente no entiendo el concepto deoverflow yunderflow. Estoy haciendo esta pregunta para aclarar esto. Necesito entenderlo en su nivel más básico con bits. Trabajemos con la representación simplificada de coma flotante de1 byte1 ...
IEEE doble tal que sqrt (x * x) ≠ x
¿Existe un doble IEEEx>0 tal quesqrt(x*x) ≠ x, bajo la condición de que el cálculox*x no se desborda o desborda aInf, 0o un número denormal? Esto es dado quesqrt devuelve el resultado representable más cercano, y también lo hacex*x (ambos según ...
Conversión hexadecimal de 32 bits a coma flotante de 32 bits (IEEE 754) en matlab
¿Cómo puedo cambiar el valor hexadecimal de 32 bits a un valor de coma flotante de acuerdo con el IEEE 754? EDITAR ... data = fread(fid,1,'float32'); disp(data); ... Recibo esta respuesta: 4.2950e + 009 1.6274e + 009 ... ¿Pero cómo obtengo ...