Resultados de la búsqueda a petición "floating-point"
Pregunta pequeña de Android
Actualmente estoy investigando un poco sobre el "ofuscador de código" y estoy tratando de familiarizarme con los códigos fuente descompilados en este momento. Para esto, creé una aplicación simple y la descomprimí por smali. Estoy tratando de ...
Precisión de punto flotante IEEE-754: ¿cuánto error está permitido?
Estoy trabajando en portar elsqrt función (para dobles de 64 bits) defdlibm [http://www.netlib.org/fdlibm/]a una herramienta de verificación de modelos que estoy usando en este momento (cbmc [http://www.cprover.org/cbmc/]) Como parte de mis ...
Redondeo predeterminado del formato Python al formatear el número flotante
Estoy tratando de resolver algunos problemas de punto flotante en mi código en Python 2.7.10. Al probar, he encontrado un comportamiento extraño con elformat método: print "{}".format(0.3000000000004) # 13 decimalsHuellas ...
Visual Studio C ++ 2008/2010 - descanso en flotante NaN
¿Hay alguna forma de configurar Visual Studio (recién actualizado de 2008 a 2010) para que se rompa, como si una afirmación fallara, siempre quealguna el número de coma flotante se convierte en NaN, QNAN, INF, etc. Hasta ahora solo he estado ...
El comportamiento de la división de coma flotante por cero
Considerar #include <iostream> int main() { double a = 1.0 / 0; double b = -1.0 / 0; double c = 0.0 / 0; std::cout << a << b << c; // to stop compilers from optimising out the code. }Siempre he pensado quea será + Inf,b será -Inf, yc será NaN. ...
¿Cómo convierto un entero en un flotante en JavaScript?
Tengo unaentero (p.ej.12), y quiero convertirlo anúmero de coma flotante, con un número especificado de lugares decimales. Sequía function intToFloat(num, decimal) { [code goes here] } intToFloat(12, 1) // returns 12.0 intToFloat(12, 2) // ...
Punto flotante y menos que igual después de sumar y restar
¿Existe una "mejor práctica" de comparaciones menos que iguales con el número de coma flotante después de una serie de operaciones aritméticas de coma flotante? Tengo el siguiente ejemplo en R, aunque la pregunta no solo se aplica a R, sino a ...
¿Cómo obtener una representación binaria del número de punto flotante en PHP?
¿Hay alguna forma de obtener la representación binaria de un número de coma flotante en PHP? Algo como el de JavaDouble.doubleToRawLongBits ...
¿Por qué [float.MaxValue == float.MaxValue + 1] devuelve verdadero?
Me pregunto si podría explicar el Desbordamiento en tipos de punto flotante. float.MaxValue == float.MaxValue + 1 // returns true
Error flotante de PHP: PHP se bloquea en el valor numérico
Acabo de leer un artículo interesante sobre php colgado en ciertos números flotantes, veaEl registro [http://www.theregister.co.uk/2011/01/04/weird_php_dos_vuln/]yExplorando ...