Resultados de la búsqueda a petición "floating-point"
La multiplicación siempre es conmutativa en aritmética de coma flotante inexact
Estoy tratando de entender algo de código en el tiempo de ejecución del lenguaje D. Parece que hay funciones separadas para las siguientes dos cosas: array1[] += scalar * array2[]; array1[] += array2[] * scalar; ¿Por qué no se pueden hacer con ...
¿Cuál es la razón intuitiva por la que NaN! = NaN?
De lo que he podido encontrar, el IEEE define NaN para que no sea igual en el sistema de numeración de coma flotante. La única vez que he tenido que comparar NaN con NaN es comparar las entradas del marco de datos, en cuyo caso esta propiedad de ...
Comparando tipos de datos flotantes y dobles en el objetivo C
Cuando uso el tipo de datos doble o flotante en una aplicación de iPhone, me encuentro con problemas con las comparaciones "> =" y "<=" porque cuando a una variable se le asigna un número ingresado con un decimal, como 4.2, el flotante o el ...
¿El valor máximo se puede almacenar en Java flotante con precisión de dos dígitos (precisión de 2 dígitos)?
¿Cómo podría encontrar un máximo de dos decimales de precisión decimal que se puedan almacenar en flotante? Según tengo entendido, en flotante de 32 bits tenemos 24 (23 + 1) para almacenar el número excluyendo exponente. es 2 ^ 24 es el valor ...
Java flotante 123.129456 a 123.12 sin redondear
¿Cómo se cortaflotado primitivo en java atwo decimal lugares, sin usar redondeo?: 123.99999 to 123.99 -8.022222 to -8.02o debería haber redondeo, solo corte los decimales y deje dos. l segundo punto es ¿cómo sevalida o cuenta cuántos decimales ...
Haskell: salida inesperada para la expresión [0, 0.1 .. 1]
Al evaluar la expresión: *main> [0, 0.1 .. 1] En realidad esperaba: [0, 0.1, 0.2, 0.3, 0.4, 0.5, 0.6, 0.7, 0.8, 0.9, 1] Pero estaba bastante sorprendido de ver la salida ...
c ++ comparando dos valores de coma flotante
Me pregunto cuál es la diferencia para comparar dos dobles entre estas dos maneras: double a1 = ...; double a2 = ....; fabs (a1-a2) <epsilon (fabs (a1-a2) / a2) <epsilon ¿Hay alguna forma de hacerlo? Gracia
'flotante' versus 'doble' precisión
El códig float x = 3.141592653589793238; double z = 3.141592653589793238; printf("x=%f\n", x); printf("z=%f\n", z); printf("x=%20.18f\n", x); printf("z=%20.18f\n", z); te dará la salida x=3.141593 z=3.141593 x=3.141592741012573242 ...
Puede escribirse una conversión de doble a int en C @ portát
Necesito escribir una función comodouble_to_int(double val, int *err) que convertiría el doble val a entero cuando sea posible; de lo contrario, informe de un error (NAN / INFs / OUT_OF_RANGE). so la implementación del pseudocódigo se vería ...
¿Por qué C no tiene flotadores sin signo?
Lo sé, la pregunta parece ser extraña. Los programadores a veces piensan demasiado. Por favor siga leyendo ... En C yo usosigned yunsigned enteros mucho. Me gusta el hecho de que el compilador me advierte si hago cosas como asignar un entero ...