Resultados de la búsqueda a petición "rounding-error"

4 la respuesta

Redondeo de las diferencias en el sistema basado en Windows vs Unix en sprintf

Tengo un problema en los sistemas basados en UNIX sprintf no redondea correctamente el valor. Por ejemplo double tmp = 88888888888885.875 char out[512];Eso es 88,888,888,888,885.875 solo para ser más fácil para los ojos. Estoy dando un ejemplo ...

6 la respuesta

¿Imprecisiones redondas al combinar áreas en Java?

Estoy trabajando conAreas en Java. Mi programa de prueba dibuja tres triángulos aleatorios y los combina para formar uno o más polígonos. Después de laAreas son.add()ed juntos, yo usoPathIterator para trazar los bordes. A veces, sin embargo, ...

2 la respuesta

¿Hay un tipo de datos "Decimal" en R?

Leo datos almacenados en el formato

5 la respuesta

Error de redondeo de PHP

Estoy usando PHP 5.2.13 en mi servidor Linux. Recibo un error extraño al redondear números. Este es mi caso de prueba: <?php echo " " . round(1.505, 2) . "\n"; echo " " . round(11.505, 2) . "\n"; echo " " . round(111.505, 2) . "\n"; echo " " . ...

1 la respuesta

Código de Entity Framework Primero truncando mis decimales

Estoy usando Entity Framework 6.x usando el enfoque Code First en una aplicación MVC 5. En esta situación particular, mi modelo (entre otras cosas) contiene dos propiedades llamadas Latitud y Longitud: [Required, Range(-90, +90)] public decimal ...

5 la respuesta

php intval () y floor () devuelven un valor demasiado bajo?

Debido a que el tipo de datos flotantes en PHP es inexacto, y un FLOTADOR en MySQL ocupa más espacio que un INT (y es inexacto), siempre almaceno los precios como INT, multiplicando por 100 antes de almacenar para asegurarnos de tener exactamente ...

1 la respuesta

¿Por qué obtengo un resultado específico de plataforma para std :: exp? [duplicar

Esta pregunta ya tiene una respuesta aquí: Las matemáticas de punto flotante están rota [/questions/588004/is-floating-point-math-broken] 28 respuestasMath requisitos de precisión de C y C ++ ...

3 la respuesta

Prevención de errores de redondeo

Solo estaba leyendo acerca de los errores de redondeo en C ++. Entonces, si estoy haciendo un programa matemático intenso (o cualquier cálculo importante), ¿debería dejar caer flotantes todos juntos y usar solo dobles o hay una manera más fácil ...

4 la respuesta

Problema R con milisegundos de redondeo

4 la respuesta

Error restando números de coma flotante al pasar por 0.0

El siguiente programa: #include <stdio.h> int main() { double val = 1.0; int i; for (i = 0; i < 10; i++) { val -= 0.2; printf("%g %s\n", val, (val == 0.0 ? "zero" : "non-zero")); } return 0; } Produce esta salida: 0.8 non-zero 0.6 non-zero 0.4 ...