Resultados de la búsqueda a petición "ieee-754"
¿Cómo funciona esta aproximación de raíz cuadrada flotante?
Encontré una aproximación de raíz cuadrada bastante extraña pero funcional parafloats; Realmente no lo entiendo. ¿Alguien puede explicarme por qué funciona este código? float sqrt(float f) { const int result = 0x1fbb4000 + (*(int*)&f >> 1); ...
IEEE doble tal que sqrt (x * x) ≠ x
¿Existe un doble IEEEx>0 tal quesqrt(x*x) ≠ x, bajo la condición de que el cálculox*x no se desborda o desborda aInf, 0o un número denormal? Esto es dado quesqrt devuelve el resultado representable más cercano, y también lo hacex*x (ambos según ...
¿Qué es desbordamiento y subflujo en coma flotante?
Siento que realmente no entiendo el concepto deoverflow yunderflow. Estoy haciendo esta pregunta para aclarar esto. Necesito entenderlo en su nivel más básico con bits. Trabajemos con la representación simplificada de coma flotante de1 byte1 ...
¿Por qué el valor de coma flotante de 4 * 0.1 se ve bien en Python 3 pero 3 * 0.1 no?
Sé que la mayoría de los decimales no tienen una representación exacta de coma flotante (¿Se han roto las matemáticas de coma flotante? [https://stackoverflow.com/questions/588004]) Pero no veo porque4*0.1 se imprime muy bien como0.4, pero3*0.1 ...
Convertir IEEE 754 de flujo de bits a flotante en JavaScript
He serializado un número flotante de 32 bits usando la función de lenguaje GO ( matemáticas Flotador de 32 bits [https://golang.org/pkg/math/#Float32bits]) que devuelve el número de coma flotante correspondiente a la representación binaria IEEE ...
¿Hay alguna manera de ver un número en su representación flotante IEEE754 de 64 bits?
Javascript almacena todos los números como valores IEEE 754 de formato de 64 bits de doble precisión de acuerdo con elEspecificaciones [http://www.ecma-international.org/publications/files/ECMA-ST/Ecma-262.pdf]: El tipo de número tiene ...
¿Por qué Excel no se redondea según IEEE 754 de 8 bytes?
La siguiente expresión se evalúa comofalse Cía#: (1 + 1 + 0.85) / 3 <= 0.95Y supongo que lo hace en la mayoría de los otros lenguajes de programación que implementan IEEE 754, ya que(1 + 1 + 0.85) / 3 evalúa a0.95000000000000007, que es mayor ...
Matlab vs C ++ doble precisión
Estoy portando algún código de Matlab a C ++. En matlab format long D = 0.689655172413793 (this is 1.0 / 1.45) E = 2600 / D // I get E = 3.770000000000e+03En C ++ double D = 0.68965517241379315; //(this is 1.0 / 1.45) double E = 2600 / D; ...
Fusión múltiple agregada y modos de redondeo predeterminados
Con GCC 5.3, el siguiente código compield con-O3 -fma float mul_add(float a, float b, float c) { return a*b + c; }produce el siguiente ensamblaje vfmadd132ss %xmm1, %xmm2, %xmm0 retNoté que GCC hacía esto con-O3 ya en GCC ...
¿Qué usos tienen las cargas útiles de NaN de punto flotante?
Sé que IEEE 754 define que los NaN tienen la siguiente representación a nivel de bits: El bit de signo puede ser0 o1El campo exponente contiene todos1 pedacitosAlgunos bits de la mantisa se utilizan para especificar si se trata de un NaN ...