Resultados de la búsqueda a petición "floating-point"
¿Cómo puede un 4 bytes almacenar tan alto valor de 3.4e38?
Al igual que con 32 bits, solo podemos almacenar datos de 2 ^ 32 bits. En lenguaje C, ¿Cómo podemos almacenar tan alto valor 3.4e38. No puedo entender el mec...
¿Es correcto comparar un doble a cero si previamente lo inicializó a cero?
Aprendí que comparando un doble usando
Uso de rangos de Haskell: ¿Por qué mapear una función de punto flotante en un rango hace que devuelva un elemento adicional?
Sé que las carrozas pueden conducir a un comportamiento extraño en los rangos debido a su naturaleza imprecisa. Esperaría la posibilidad de valores imprecisos. Por ejemplo:[0.1,0.3..1] podría dar[0.1,0.3,0.5,0.7,0.8999999999999999] en lugar ...
No se pudo encontrar una sobrecarga para '*' que acepte el argumento proporcionado
He convertido unString a unaInt mediante el uso detoInt(). Luego intenté multiplicarlo por 0.01, pero aparece un error que diceCould not find an overload for '*' that accepts the supplied argument. Aquí está mi código: var str: Int = 0 var ...
Algoritmo más rápido para identificar la x más pequeña y más grande que hace que la ecuación de doble precisión x + a == b sea verdadera
En el contexto del análisis estático, estoy interesado en determinar los valores dex en la rama entonces del condicional a continuación: double x; x = …; if (x + a == b) { …a yb se puede suponer que son constantes de doble precisión (generalizar ...
¿Por qué Swift usa la base 2 para el exponente de los valores de coma flotante hexadecimal?
De acuerdo aEl lenguaje de programación Swift : Por ejemplo, 0xFp2 representa 15 ⨉ 2 ^ 2, que se evalúa como 60. Del mismo modo, 0xFp-2 representa 15 ⨉ 2 ^ (- 2), que se evalúa como 3.75. ¿Por qué se usa 2 como base para el exponente en lugar ...
Agregar dos números de coma flotante
Me gustaría calcular la suma, redondeada, de dos números binarios IEEE 75464. Con ese fin, escribí el programa C99 a continuación: #include <stdio.h> #include <fenv.h> #pragma STDC FENV_ACCESS ON int main(int c, char *v[]){ ...
Uso confiable de dobles como std :: map keys
Uno de mis compañeros de trabajo recientemente mencionó un truco interesante para usar de manera confiable los números de coma flotante como claves en algo así como unstd::map en C ++. Suponiendo que desea utilizar mayúsculas y minúsculas en ...
¿Reglas prácticas para minimizar los errores de coma flotante en C?
Con respecto a minimizar el error en operaciones de punto flotante, si tengo una operación como la siguiente en C: float a = 123.456; float b = 456.789; float r = 0.12345; a = a - (r * b); ¿Cambiará el resultado del cálculo si divido los pasos ...
¿Cuáles son todos los cálculos posibles que podrían causar un NaN en Python? [cerrado]
He estado buscando, y parece que hay discusiones dispersas sobreNaNs en diferentes lenguajes de programación, incluidos algunos casos específicos, pero nada exhaustivo o claro. ¿Cuáles son las operaciones más comunes que causarían unNaN, en ...