Resultados de la búsqueda a petición "floating-accuracy"
Representación textual exacta de un "doble" IEEE
Necesito representar un número de coma flotante doble (64 bits) IEEE 754-1985 en una forma textual legible por humanos, con la condición de que la forma textual pueda analizarse nuevamente enexactamente el mismo número (en cuanto a bits). ¿Es ...
¿Cuál es un ejemplo simple de punto flotante / error de redondeo?
He oído hablar de "error" al usar variables de punto flotante. Ahora estoy tratando de resolver este rompecabezas y creo que obtengo un error de redondeo / coma flotante. Así que finalmente voy a descubrir los conceptos básicos del error de coma ...
¿Reglas prácticas para minimizar los errores de coma flotante en C?
Con respecto a minimizar el error en operaciones de punto flotante, si tengo una operación como la siguiente en C: float a = 123.456; float b = 456.789; float r = 0.12345; a = a - (r * b); ¿Cambiará el resultado del cálculo si divido los pasos ...
¿Cómo se propaga el error de coma flotante cuando se realizan operaciones matemáticas en C ++?
Digamos que hemos declarado las siguientes variables float a = 1.2291; float b = 3.99; float las variables tienen precisión 6, lo que (si lo entiendo correctamente) significa que la diferencia entre el número que la computadora ...
¿Cómo encuentras el valor no igual más cercano de un flotador? [duplicar]
Esta pregunta ya tiene una respuesta aquí: ¿Cómo alterar un flotador por su incremento más pequeño (o cerca de él)? [/questions/155378/how-to-alter-a-float-by-its-smallest-increment-or-close-to-it] 7 respuestasA float (también conocido como ...
¿Por qué estos dos float64 tienen valores diferentes?
Considere estos dos casos: fmt.Println(912 * 0.01) fmt.Println(float64(912) * 0.01)(Ir al campo de juegos [http://play.golang.org/p/k3OLoemaA8]) El segundo imprime 9.120000000000001, que en realidad está bien,Entiendo por qué está pasando ...
¿Por qué el valor de este flotador cambia de lo que se estableció?
¿Por qué este programa C está dando la salida "incorrecta"? #include<stdio.h> void main() { float f = 12345.054321; printf("%f", f); getch(); }Salida: 12345.054688Pero la salida debería ser,12345.054321. Estoy usando VC ++ en VS2008.
¿Por qué 0.1 + 0.4 = 0.5?
Lo sabemosel punto flotante está roto [https://stackoverflow.com/questions/588004/is-floating-point-math-broken], porque los números decimales no siempre se pueden representar perfectamente en binario. Se redondean a un número quepuede estar ...
¿Puede la precisión de punto flotante depender del hilo?
Tengo una pequeña clase de vectores 3D en C # 3.0 basada en una estructura que usa el doble como unidad básica. Un ejemplo: el valor y de un vector es -20.0 straightResto un vector con un valor y de 10.094999999999965El valor para y que ...
¿Es posible obtener 0 restando dos números desiguales de coma flotante?
¿Es posible obtener la división por 0 (o infinito) en el siguiente ejemplo? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } }En casos normales no lo hará, por supuesto. Pero que sia yb están ...