Resultados de la búsqueda a petición "floating-point-conversion"
¿Por qué str (float) devuelve más dígitos en Python 3 que Python 2?
En Python 2.7,repr de unfloat devuelve el número decimal más cercano de hasta 17 dígitos de largo; Esto es lo suficientemente preciso como para identificar de forma exclusiva cada valor de punto flotante IEEE posible.str de unfloat funcionó de ...
¿Cómo cambiar un número float64 a uint64 de la manera correcta?
package main func main() { var n float64 = 6161047830682206209 println(uint64(n)) }El resultado será: 6161047830682206208Se ve así cuandofloat64 cambiar auint64, la fracción se descarta.
Aritmética de punto flotante de media precisión en chips Intel
¿Es posible realizar aritmética de coma flotante de precisión media en chips Intel? Sé cómo cargar / almacenar / convertir números de coma flotante de precisión media [1] pero no sé cómo agregarlos / multiplicarlos sin convertirlos a números de ...
Convertir 4 bytes en bruto en coma flotante de 32 bits
Estoy tratando de reconstruir un valor de coma flotante de 32 bits a partir de un eeprom. Los 4 bytes en la memoria eeprom (0-4) son: B4 A2 91 4D y la PC (VS Studio) lo reconstruye correctamente como 3.054199 * 10 ^ 8 (el valor de coma flotante ...
La conversión de Int a Float pierde precisión para grandes números en Swift
XCode 6.3.1 Swift 1.2 let value: Int = 220904525 let intmax = Int.max let float = Float(value) // Here is an error probably let intFromFloat = Int(float) let double = Double(value) println("intmax=\(intmax) value=\(value) ...
problemas en la comparación de coma flotante [duplicado]
Esta pregunta ya tiene una respuesta aquí: salida extraña en comparación de flotante con flotante literal [/questions/1839422/strange-output-in-comparison-of-float-with-float-literal] 8 respuestasvoid main() { float f = 0.98; if(f <= 0.98) ...
Convierta el flotante IEEE 754 firmado en representación hexadecimal
Estoy usando un front-end de Lua que desafortunadamente está desactualizado, así que estoy atascado con la versión 5.1 aquí, es decir,
La condición "mayor que" de MySQL a veces devuelve una fila con el mismo valor
Me encuentro con un problema desconcertante con una consulta básica de MySQL. Esta es mi mesa: id | rating 1 | 1317.17 2 | 1280.59 3 | 995.12 4 | 973.88Ahora, estoy tratando de encontrar todas las filas donde elrating La columna es mayor que un ...
La mejor manera de verificar si un punto flotante es un entero
[Hay algunas preguntas sobre esto, pero ninguna de las respuestas es particularmente definitiva y varias están desactualizadas con el estándar actual de C ++]. Mi investigación muestra que estos son los principales métodos utilizados ...
Página 1 de 2