Resultados de la búsqueda a petición "floating-point"
Dificultad de comparación numérica en R
Estoy tratando de comparar dos números en R como parte de una condición de declaración if: (a-b) >= 0.5 En este caso particular, a = 0.58 yb = 0.08 ... y aún(a-b) >= 0.5 Es falso. Soy consciente de los peligros de usar== para comparaciones de ...
¿Por qué estos dos float64 tienen valores diferentes?
Considere estos dos casos: fmt.Println(912 * 0.01) fmt.Println(float64(912) * 0.01)(Ir al campo de juegos [http://play.golang.org/p/k3OLoemaA8]) El segundo imprime 9.120000000000001, que en realidad está bien,Entiendo por qué está pasando ...
round () para flotante en C ++
Necesito una función de redondeo de coma flotante simple, por lo tanto: double round(double); round(0.1) = 0 round(-0.1) = 0 round(-0.9) = -1puedo encontrarceil() yfloor() en las matemáticas.h - pero noround(). ¿Está presente en la biblioteca ...
¿Cómo gestionar la división de grandes números en Python?
Tengo un número de 100 dígitos y estoy tratando de poner todos los dígitos del número en una lista, para poder realizar operaciones en ellos. Para hacer esto, estoy usando el siguiente código: for x in range (0, 1000): list[x] = number % 10 ...
x86-64 largo doble precisión
¿Cuál es la precisión real del doble largo en las plataformas Intel de 64 bits? ¿Son 80 bits acolchados a 128 o 128 bits reales? si es anterior, además de ir a gmp, ¿hay otra opción para lograr una verdadera precisión 128?
¿Por qué el valor de este flotador cambia de lo que se estableció?
¿Por qué este programa C está dando la salida "incorrecta"? #include<stdio.h> void main() { float f = 12345.054321; printf("%f", f); getch(); }Salida: 12345.054688Pero la salida debería ser,12345.054321. Estoy usando VC ++ en VS2008.
¿Cómo obtener el valor doble más pequeño posible siguiente o anterior compatible con la arquitectura?
Digamos que tengo undouble variabled. ¿Hay alguna manera de obtener el valor siguiente o anterior que sea compatible con la arquitectura de la CPU? Como ejemplo trivial, si el valor era 10.1245125 y la precisión de la arquitectura se fijaba en 7 ...
¿Por qué 0.1 + 0.4 = 0.5?
Lo sabemosel punto flotante está roto [https://stackoverflow.com/questions/588004/is-floating-point-math-broken], porque los números decimales no siempre se pueden representar perfectamente en binario. Se redondean a un número quepuede estar ...
Punto flotante de doble precisión en CUDA
¿CUDA admite números de coma flotante de doble precisión? Además, ¿cuáles son las razones de lo mismo?
Comparación de punto flotante en STL, BOOST
¿Existe en el STL o en Boost un conjunto de funciones genéricas de comparación simple? El que encontré siempre requiere parámetros de plantilla y / o instanciación de una plantilla de estructura. Estoy buscando algo con una sintaxis como: if ( ...