Resultados de la búsqueda a petición "floating-point-conversion"
Precisión de punto flotante C [duplicado]
Posible duplicado:Comparación de punto flotanteTengo un problema sobre la precisión de flotación en C / C ++. Cuando ejecuto el siguiente programa:
Convierta el flotante IEEE 754 firmado en representación hexadecimal
Estoy usando un front-end de Lua que desafortunadamente está desactualizado, así que estoy atascado con la versión 5.1 aquí, es decir,
Cómo verificar si la entrada de un usuario es flotante
Estoy haciendo el ejercicio 35 Aprenda Python de la manera difícil. A continuación se muestra el código original, y se nos pide que lo cambiemos para que pueda aceptar números que no tengan solo 0 y 1. def gold_room(): print "This room is full ...
La condición "mayor que" de MySQL a veces devuelve una fila con el mismo valor
Me encuentro con un problema desconcertante con una consulta básica de MySQL. Esta es mi mesa: id | rating 1 | 1317.17 2 | 1280.59 3 | 995.12 4 | 973.88Ahora, estoy tratando de encontrar todas las filas donde elrating La columna es mayor que un ...
¿Por qué str (float) devuelve más dígitos en Python 3 que Python 2?
En Python 2.7,repr de unfloat devuelve el número decimal más cercano de hasta 17 dígitos de largo; Esto es lo suficientemente preciso como para identificar de forma exclusiva cada valor de punto flotante IEEE posible.str de unfloat funcionó de ...
Convertir 4 bytes en bruto en coma flotante de 32 bits
Estoy tratando de reconstruir un valor de coma flotante de 32 bits a partir de un eeprom. Los 4 bytes en la memoria eeprom (0-4) son: B4 A2 91 4D y la PC (VS Studio) lo reconstruye correctamente como 3.054199 * 10 ^ 8 (el valor de coma flotante ...
La mejor manera de verificar si un punto flotante es un entero
[Hay algunas preguntas sobre esto, pero ninguna de las respuestas es particularmente definitiva y varias están desactualizadas con el estándar actual de C ++]. Mi investigación muestra que estos son los principales métodos utilizados ...
Swift: extraer flotante de datos de bytes
Estoy buscando una forma robusta y elegante de extraer cuatro bytes big-endian de una matriz como flotante. Puedo obtener un UInt32 con los bits a través de algo como esto: let data: [Byte] = [0x00, 0x00, 0x00, 0x40, 0x86, 0x66, 0x66, 0x00] let ...
Página 1 de 2