Resultados de la búsqueda a petición "ieee-754"
¿Por qué la literatura de aproximación al pecado basada en tablas siempre usa esta fórmula cuando otra fórmula parece tener más sentido?
La literatura sobre computación de la función elementalsin con tablas se refiere a la fórmula: sin(x) = sin(Cn) * cos(h) + cos(Cn) * sin(h)dóndex = Cn + h, Cn es una constante para la cualsin(Cn) ycos(Cn) se han calculado previamente y están ...
Algoritmo más rápido para identificar la x más pequeña y más grande que hace que la ecuación de doble precisión x + a == b sea verdadera
En el contexto del análisis estático, estoy interesado en determinar los valores dex en la rama entonces del condicional a continuación: double x; x = …; if (x + a == b) { …a yb se puede suponer que son constantes de doble precisión (generalizar ...
¿Cómo aplicar operaciones bit a bit a la representación real IEEE 754 de números JS?
En JavaScript, cada vez que realiza una operación bit a bit comox << 2, la representación flotante de 64 bits se convierte en un int sin signo de 32 bits antes de que ocurra el cambio. Estoy interesado en aplicar el cambio a la representación bit ...
Punto flotante a valor binario (C ++)
Quiero tomar un número de coma flotante en C ++, como 2.25125, y una matriz int llena con el valor binario que se usa para almacenar el flotante en la memoria (IEEE 754). Entonces podría tomar un número y terminar con una matriz int num [16] con ...
Valores numéricos extremos en precisión de punto flotante en R
¿Alguien puede explicarme la siguiente salida? Sé que tiene algo que ver con la precisión de coma flotante, pero el orden de magnitud (diferencia 1e308) me sorprende. 0: alta precisión > 1e-324==0 [1] TRUE > 1e-323==0 [1] FALSE1: muy poco ...
Representación textual exacta de un "doble" IEEE
Necesito representar un número de coma flotante doble (64 bits) IEEE 754-1985 en una forma textual legible por humanos, con la condición de que la forma textual pueda analizarse nuevamente enexactamente el mismo número (en cuanto a bits). ¿Es ...
¿Los patrones de bits de los NaN dependen realmente del hardware?
Estaba leyendo sobre valores de NaN de punto flotante en la especificación del lenguaje Java (estoy aburrido). Un 32 bitsfloat tiene este formato de bit: seee eeee emmm mmmm mmmm mmmm mmmm mmmms es el bit de signoe son los bits exponentes, ym ...
¿Por qué necesitamos el resto IEEE 754?
acabo de leereste tema [https://stackoverflow.com/questions/158120/math-ieeeremainder-returns-negative-results-why] (especialmente los últimos comentarios). Entonces me preguntaba, por qué realmente necesitamos esto era para dar el resto. Pero ...
¿Cómo imprime JavaScript 0.1 con tanta precisión?
HeEscuchó [https://stackoverflow.com/questions/1458633/elegant-workaround-for-javascript-floating-point-number-problem] que los números de JavaScript sonIEEE 754 [http://en.wikipedia.org/wiki/IEEE_floating_point]puntos flotantes, lo que explica ...
¿Es posible obtener 0 restando dos números desiguales de coma flotante?
¿Es posible obtener la división por 0 (o infinito) en el siguiente ejemplo? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } }En casos normales no lo hará, por supuesto. Pero que sia yb están ...