Resultados de la búsqueda a petición "floating-accuracy"
Tratar con problemas de precisión en números de coma flotante
e preguntaba si hay una manera de superar un problema de precisión que parece ser el resultado de la representación interna de mi máquina de números de punto flotante: Por razones de claridad, el problema se resume como: // str is "4.600"; ...
¿Por qué necesito 17 dígitos significativos (y no 16) para representar un doble?
¿Puede alguien darme un ejemplo de un número de coma flotante (precisión doble), que necesita más de 16 dígitos decimales significativos para representarlo? He encontrado eneste ...
Comprender los errores de representación de coma flotante; ¿Qué hay de malo en mi pensamiento?
Tengo problemas para entender por qué algunas figuras no se pueden representar con un número de coma flotante. Como sabemos, un flotador normal tendría un bit de signo, exponente y mantisa. ¿Por qué no puede, por ejemplo, 0.1 ser representado ...
problema de punto flotante en R? [duplicar
Posible duplicado: ¿Por qué estos números no son iguales? [https://stackoverflow.com/questions/9508518/why-are-these-numbers-not-equal] a expresión a continuación, que se evalúa como 0.1, se considera mayor que 0.1. > round(1740/600,0) - ...
IEEE 754: ¿Cómo funciona exactamente?
¿Por qué se comporta el siguiente código como lo hace en C? float x = 2147483647; //2^31 printf("%f\n", x); //Outputs 2147483648 Aquí está mi proceso de pensamiento: 2147483647 = 0 1001 1101 1111 1111 1111 1111 1111 ...
doble aritmética e igualdad en Java
Aquí hay una rareza (para mí, al menos). Esta rutina imprime verdadero: double x = 11.0; double y = 10.0; if (x-y == 1.0) { // print true } else { // print false } Pero esta rutina imprime falso: double x = 1.1; double y = 1.0; if (x-y == 0.1) ...
php intval () y floor () devuelven un valor demasiado bajo?
Debido a que el tipo de datos flotantes en PHP es inexacto, y un FLOTADOR en MySQL ocupa más espacio que un INT (y es inexacto), siempre almaceno los precios como INT, multiplicando por 100 antes de almacenar para asegurarnos de tener exactamente ...
SQL Server Cálculo del tipo de datos flotante vs decimal
En la siguiente consulta declare @a float(23) declare @b float(23) declare @c float(53) set @a = 123456789012.1234 set @b = 1234567.12345678 set @c = @a * @b select @c select LTRIM(STR((@c),32,12)) declare @x decimal(16,4) declare @y ...
Cómo verificar dependencias de flotadores
Quiero determinar (en c ++) si un número flotante es el inverso multiplicativo de otro número flotante. El problema es que tengo que usar una tercera variable para hacerlo. Por ejemplo este código: float x=5,y=0.2; if(x==(1/y)) cout<<"They are ...
¿Por qué estos números no son iguales?
El siguiente código es obviamente incorrecto. ¿Cuál es el problema i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15