Resultados de la búsqueda a petición "floating-point"
Cómo lidiar con redondeos extraños de flotadores en PHP
Como todos sabemos, la aritmética de coma flotante no siempre es completamente precisa, pero ¿cómo lidiar con sus inconsistencias? Como ejemplo, en PHP 5.2.9:(esto no sucede en 5.3) echo round(14.99225, 4); // 14.9923 echo round(15.99225, 4); ...
Manejo de errores de coma flotante en .NET
Estoy trabajando en un proyecto científico de computación y visualización en C # /. NET, y usamosdoubles para representar todas las cantidades físicas. Dado que los números de coma flotante siempre incluyen un poco de redondeo, tenemos métodos ...
¿Por qué Int (Float (Int.max)) me da un error?
Observé algo realmente extraño. Si ejecuta este código en Swift: Int(Float(Int.max))Se bloquea con el mensaje de error: error fatal: el valor flotante no se puede convertir a Int porque el resultado sería mayor que Int.max Esto es realmente ...
Convertir flotante a cadena hexadecimal de 32 bits en JavaScript
Tengo un valor flotante que representa las coordenadas gps y me gustó convertirlo a una cadena hexadecimal de 32 bits. Probé todas las soluciones ...
TypeError en cálculos con valores ingresados por el usuario
Me doy cuenta de que esto ha sido respondido, pero soy un super novato. Sé que tiene que ver con que hombre / mujer sea una cadena, pero pensé que lo tenía definido. ¿Cómo puedo hacer que el cálculo funcione? num = int(input('Please enter number ...
¿Por qué C # permite dividir un número distinto de cero por cero en tipo de punto flotante?
Por qué C # permite: 1.0 / 0 // InfinityY no permite: 1 / 0 // Division by constant zero [Compile time error]Matemáticamente, ¿hay alguna diferencia entre números integrales y de coma flotante al dividir por cero?
C printf usando% d y% f
Estaba trabajando en este programa y noté que usar% f para un doble y% d para un flotador me da algo completamente diferente. ¿Alguien sabe por qué sucede esto? int main () { float a = 1F; double b = 1; printf("float =%d\ndouble= %f", a, ...
Uso de rangos de Haskell: ¿Por qué mapear una función de punto flotante en un rango hace que devuelva un elemento adicional?
Sé que las carrozas pueden conducir a un comportamiento extraño en los rangos debido a su naturaleza imprecisa. Esperaría la posibilidad de valores imprecisos. Por ejemplo:[0.1,0.3..1] podría dar[0.1,0.3,0.5,0.7,0.8999999999999999] en lugar ...
¿Cómo redondeo un número de coma flotante hasta cierto decimal?
Supongamos que tengo8.8333333333333339y quiero convertirlo a8.84. ¿Cómo puedo lograr esto en Python? round(8.8333333333333339, 2) da8.83 y no8.84. Soy nuevo en Python o en la programación en general. No quiero imprimirlo como una cadena, y el ...
¿Cuáles son las mejores prácticas para pasar montos en dólares en JSON?
¿Cuáles son las mejores prácticas para pasar montos en dólares en JSON? ¿Pasar las cantidades como cuerdas o flotadores? ¿u otro? Estamos un poco preocupados por los errores de redondeo que se muestran en el cliente (iOS / Android / Web), o ...