Resultados de la búsqueda a petición "ieee-754"
¿Qué es desbordamiento y subflujo en coma flotante?
Siento que realmente no entiendo el concepto deoverflow yunderflow. Estoy haciendo esta pregunta para aclarar esto. Necesito entenderlo en su nivel más básico con bits. Trabajemos con la representación simplificada de coma flotante de1 byte1 ...
¿Convertir hexadecimal flotante IEEE a decimal?
SI tengo un flotante IEEE hex 42F6E979, ¿cómo lo convierto a decimal? Creo que la representación decimal es = 123.456001
¿Por qué las operaciones con valores de doble precisión no dan los resultados esperados?
System.out.println(2.14656);2.14656 System.out.println(2.14656%2);0.14656000000000002 WTF?
¿Por qué el valor de coma flotante de 4 * 0.1 se ve bien en Python 3 pero 3 * 0.1 no?
Sé que la mayoría de los decimales no tienen una representación exacta de coma flotante (¿Se han roto las matemáticas de coma flotante? [https://stackoverflow.com/questions/588004]) Pero no veo porque4*0.1 se imprime muy bien como0.4, pero3*0.1 ...
IEEE doble tal que sqrt (x * x) ≠ x
¿Existe un doble IEEEx>0 tal quesqrt(x*x) ≠ x, bajo la condición de que el cálculox*x no se desborda o desborda aInf, 0o un número denormal? Esto es dado quesqrt devuelve el resultado representable más cercano, y también lo hacex*x (ambos según ...
Precisión de punto flotante IEEE-754: ¿cuánto error está permitido?
Estoy trabajando en portar elsqrt función (para dobles de 64 bits) defdlibm [http://www.netlib.org/fdlibm/]a una herramienta de verificación de modelos que estoy usando en este momento (cbmc [http://www.cprover.org/cbmc/]) Como parte de mis ...
¿Existe una implementación de código abierto c / c ++ de las operaciones IEEE-754? [cerrado]
Estoy buscando una implementación de referencia de las operaciones IEEE-754. ¿Hay tal cosa?
Optimizaciones CLR JIT viola la causalidad?
Estaba escribiendo un ejemplo instructivo para un colega para mostrarle por qué probar flotadores para la igualdad a menudo es una mala idea. El ejemplo que utilicé fue agregar .1 diez veces y comparar con 1.0 (el que se me mostró en mi clase ...
¿Alguna CPU del mundo real no usa IEEE 754?
Estoy optimizando una función de clasificación para una biblioteca numérica / estadística basada en la suposición de que, después de filtrar cualquier NaN y hacer un pequeño giro, los flotadores se pueden comparar como entradas de 32 bits sin ...
Portabilidad de la serialización binaria de tipo doble / flotante en C ++
El estándar C ++ no analiza el diseño subyacente de los tipos flotantes y dobles, solo el rango de valores que deben representar. (Esto también es cierto para los tipos con signo, es el cumplido de dos o algo más) Mi pregunta es: ¿Cuáles son las ...