Resultados de la búsqueda a petición "floating-point-conversion"

6 la respuesta

Precisión de punto flotante C [duplicado]

Posible duplicado:Comparación de punto flotanteTengo un problema sobre la precisión de flotación en C / C ++. Cuando ejecuto el siguiente programa:

4 la respuesta

Número de dígitos significativos para un tipo de punto flotante

3 la respuesta

Convierta el flotante IEEE 754 firmado en representación hexadecimal

Estoy usando un front-end de Lua que desafortunadamente está desactualizado, así que estoy atascado con la versión 5.1 aquí, es decir,

1 la respuesta

¿Por qué el punto flotante IEEE-754 no es intercambiable entre plataformas?

5 la respuesta

Cómo verificar si la entrada de un usuario es flotante

Estoy haciendo el ejercicio 35 Aprenda Python de la manera difícil. A continuación se muestra el código original, y se nos pide que lo cambiemos para que pueda aceptar números que no tengan solo 0 y 1. def gold_room(): print "This room is full ...

3 la respuesta

La condición "mayor que" de MySQL a veces devuelve una fila con el mismo valor

Me encuentro con un problema desconcertante con una consulta básica de MySQL. Esta es mi mesa: id | rating 1 | 1317.17 2 | 1280.59 3 | 995.12 4 | 973.88Ahora, estoy tratando de encontrar todas las filas donde elrating La columna es mayor que un ...

1 la respuesta

¿Por qué str (float) devuelve más dígitos en Python 3 que Python 2?

En Python 2.7,repr de unfloat devuelve el número decimal más cercano de hasta 17 dígitos de largo; Esto es lo suficientemente preciso como para identificar de forma exclusiva cada valor de punto flotante IEEE posible.str de unfloat funcionó de ...

2 la respuesta

Convertir 4 bytes en bruto en coma flotante de 32 bits

Estoy tratando de reconstruir un valor de coma flotante de 32 bits a partir de un eeprom. Los 4 bytes en la memoria eeprom (0-4) son: B4 A2 91 4D y la PC (VS Studio) lo reconstruye correctamente como 3.054199 * 10 ^ 8 (el valor de coma flotante ...

3 la respuesta

La mejor manera de verificar si un punto flotante es un entero

[Hay algunas preguntas sobre esto, pero ninguna de las respuestas es particularmente definitiva y varias están desactualizadas con el estándar actual de C ++]. Mi investigación muestra que estos son los principales métodos utilizados ...

3 la respuesta

Swift: extraer flotante de datos de bytes

Estoy buscando una forma robusta y elegante de extraer cuatro bytes big-endian de una matriz como flotante. Puedo obtener un UInt32 con los bits a través de algo como esto: let data: [Byte] = [0x00, 0x00, 0x00, 0x40, 0x86, 0x66, 0x66, 0x00] let ...