Resultados de la búsqueda a petición "floating-point"
¿Cómo puedo hacer que la función php cos devuelva el valor correcto?
He intentad $x = cos(deg2rad($angle)); pero devuelve 6.12323399574E-17 cuando el ángulo es de 90 grados en lugar de 0. Leí que este es un problema de coma flotante, pero ¿hay alguna solución?
La operación más simple en C no funciona [duplicado]
Posibles duplicados: Posible pérdida de fracción [https://stackoverflow.com/questions/1061334/possible-loss-of-fraction] Cuál es el comportamiento de la división de enteros en ...
Comprender los errores de representación de coma flotante; ¿Qué hay de malo en mi pensamiento?
Tengo problemas para entender por qué algunas figuras no se pueden representar con un número de coma flotante. Como sabemos, un flotador normal tendría un bit de signo, exponente y mantisa. ¿Por qué no puede, por ejemplo, 0.1 ser representado ...
Brocas de precisión flotante
En este wikiartícul [http://en.wikipedia.org/wiki/Single_precision_floating-point_format] muestra 23 bits para precisión, 8 para exponente y 1 para signo ¿Dónde está el 24to bit oculto en el tipo flotante que hace (23 + 1) 7 dígitos significativos?
Java: ¿Por qué deberíamos usar BigDecimal en lugar de Double en el mundo real? [duplicar
Esta pregunta ya tiene una respuesta aquí: Double vs. BigDecimal? [/questions/3413448/double-vs-bigdecimal] 8 respuestasAl tratar con valores monetarios del mundo real, se me recomienda usar BigDecimal en lugar de Double. Pero no tengo una ...
Es posible eliminar errores de coma flotante sin recurrir a tipos de datos de precisión arbitraria?
e preguntaba si, en condiciones específicas, es posible eliminar los errores de coma flotante sin recurrir a tipos de datos de precisión arbitrari El problema es el habitual. El idioma es Ruby, pero se mantiene en cualquier idioma: f = 1829.82 ...
Java - Convertir hexadecimal a flotante IEEE-754 de 64 bits - doble precisión
Estoy tratando de convertir la siguiente cadena hexadecimal: "41630D54FFF68872" a 9988776.0 (float-64). Con un solo flotador de precisión 32, haría: int intBits = Long.valueOf("hexFloat32", 16).intValue(); float floatValue ...
¿Por qué GCC no optimiza a * a * a * a * a * a a (a * a * a) * (a * a * a)?
Estoy haciendo una optimización numérica en una aplicación científica. Una cosa que noté es que GCC optimizará la llamadapow(a,2) compilándolo ena*a, pero la llamadapow(a,6) no está optimizado y en realidad llamará a la función de bibliotecapow, ...
¿Exactitud de la multiplicación de doble precisión en Java?
Cuál es la precisión garantizada del operador de multiplicación para valores dobles en Java? Por ejemplo, 2.2 * 100 es 220.00000000000003, pero 220 es un número doble. 220.00000000000003 es el siguiente doble después de 220.
Convertir de cadena de notación científica para flotar en C #
¿Cuál es la forma correcta de convertir de una cadena de notación científica como "1.234567E-06" a una variable de coma flotante usando C #?