Resultados de la búsqueda a petición "floating-accuracy"

5 la respuesta

¿El tipo de datos doble o flotante no se agrega correctamente en un bucle?

En un bucle, estoy agregando 0.10 hasta que alcance el # deseado y obtengo el índice. Este es mi código:

2 la respuesta

PHP / MySQL: ¿Mejores operaciones de dinero / prácticas de almacenamiento?

Por lo tanto, estoy planeando hacer una aplicación (PHP / MySQL) que se ocupe mucho del dinero, y estoy pensando en cómo almacenar y operar con el dinero, re...

7 la respuesta

imprimiendo la parte integral de un número de punto flotante

Estoy tratando de averiguar cómo imprimir números de punto flotante sin usar las funciones de la biblioteca. La impresión de la parte decimal de un número de...

2 la respuesta

División y puntos flotantes.

¿Alguien puede ayudarme por qué x2 imprime cero. Supongo que debido a la representación de punto flotante X1 se redondea, hay una manera de mantener la prece...

5 la respuesta

Python punto flotante precisión arbitraria disponible?

1 la respuesta

El resultado de lanzar doble a int es incorrecto

Parece que hay algún tipo de error de redondeo oscuro cuando ejecuto el siguiente código:

3 la respuesta

Pérdida de precisión numérica del servidor SQL 2005

La depuración de algunos códigos SQL relacionados con las finanzas encontró un problema extraño con la precisión matemática numérica (24,8).Al ejecutar la si...

10 la respuesta

For-loop en C ++ usando doble ruptura de un paso antes, no se alcanzó el valor de límite

Tengo un programa simple de C ++ compilado usando gcc 4.2.4 en Ubuntu 8.04 de 32 bits. Tiene un

3 la respuesta

¿Por qué GDB evalúa la aritmética de punto flotante de forma diferente a C ++?

4 la respuesta

C ++ precisión de punto flotante en bucles while

Estoy tratando de contar la cantidad de denominaciones de dólares y monedas en un total general utilizando una serie de bucles while. Cuando llego a las mone...