Resultados de la búsqueda a petición "floating-point"
BigDecimal Error
En Java, he definido k comodouble k=0.0; Estoy tomando datos de la base de datos y agregando los mismos usandowhile lazo while(rst.next()) { k = k + Double.parseDouble(rst.getString(5)); }NOTE: In database, I have values as 125.23, 458.45, ...
Especificación del comportamiento de coma flotante de Excel
Aunque Excel usa el formato estándar binario IEEE754, no usa las mismas reglas para aritmética y comparaciones, p. =0.1+0.2=0.3regresoTRUEyotro [https://stackoverflow.com/q/36452194/392585] ...
Problemas de comparación de coma flotante MySQL
Me encontré con un problema al introducir columnas de punto flotante en el esquema de la base de datos MySQL de que las comparaciones en valores de punto flotante no siempre devuelven los resultados correctos. 1 - 50.12 2 - 34,57 3 - 12.75 4 - ...
¿Cómo puedo convertir un entero en flotante en Java?
Tengo dos enterosx yy. Necesito calcularx/y y como resultado me gustaría flotar. Por ejemplo, como resultado de3/2 Me gustaría tener 1.5. Pensé que la forma más fácil (o la única) de hacerlo es convertirx yy en tipo flotante. Desafortunadamente, ...
¿Qué causa una pérdida significativa de precisión de FP al compilar para 64 bits?
Plataforma: C # con Visual Studio 2013. Tenía una aplicación de Windows ejecutándose en una CPU Haswell de 64 bits que funcionaba correctamente con "Prefiero 32 bits" habilitado. Decidí actualizarme a "Preferir 64 bits" desmarcando "Preferir 32 ...
Mejores prácticas para la comparación de flotadores en Matlab
Obviamente, la comparación de flotadores siempre es complicada. Tengo un montón de verificación de afirmación en mi código (científico), por lo que muy a menudo tengo que verificar la igualdad de sumas con respecto a uno y ...
¿Deberíamos comparar los números de coma flotante para igualdad con un error * relativo *?
Hasta ahora he visto muchas publicaciones relacionadas con la igualdad de números de coma flotante. La respuesta estándar a una pregunta como "¿cómo deberíamos decidir si xey son iguales?" es abs(x - y) < epsilondonde epsilon es unfijo, pequeña ...
cuantos números enteros hay en IEEE 754
Estoy tratando de averiguar cuántos números enteros existen en el ieee 754. El número que obtuve fue 1778384895, pero no pude encontrar ningún recurso para comprobarlo. Muchas gracias por adelantado.
Convertir doble para flotar sin Infinito
Estoy convirtiendo el doble en flotante usando el viejofloat myFloat = (float)myDouble. Sin embargo, esto a veces resulta en "Infinito", lo que no es bueno para el procesamiento posterior que estoy haciendo. Estoy de acuerdo con la ...
¿Cómo cambiar un número float64 a uint64 de la manera correcta?
package main func main() { var n float64 = 6161047830682206209 println(uint64(n)) }El resultado será: 6161047830682206208Se ve así cuandofloat64 cambiar auint64, la fracción se descarta.