Resultados de la búsqueda a petición "floating-point-conversion"

2 la respuesta

problemas en la comparación de coma flotante [duplicado]

Esta pregunta ya tiene una respuesta aquí: salida extraña en comparación de flotante con flotante literal [/questions/1839422/strange-output-in-comparison-of-float-with-float-literal] 8 respuestasvoid main() { float f = 0.98; if(f <= 0.98) ...

1 la respuesta

Aritmética de punto flotante de media precisión en chips Intel

¿Es posible realizar aritmética de coma flotante de precisión media en chips Intel? Sé cómo cargar / almacenar / convertir números de coma flotante de precisión media [1] pero no sé cómo agregarlos / multiplicarlos sin convertirlos a números de ...

6 la respuesta

Precisión de punto flotante C [duplicado]

Posible duplicado:Comparación de punto flotanteTengo un problema sobre la precisión de flotación en C / C ++. Cuando ejecuto el siguiente programa:

1 la respuesta

¿Cómo cambiar un número float64 a uint64 de la manera correcta?

package main func main() { var n float64 = 6161047830682206209 println(uint64(n)) }El resultado será: 6161047830682206208Se ve así cuandofloat64 cambiar auint64, la fracción se descarta.

9 la respuesta

¿Límite de precisión de coma flotante?

¿Hay alguna forma de redondear los puntos flotantes a 2 puntos? P.ej.:3576.7675745342556 se convierte3576.76.

4 la respuesta

Número de dígitos significativos para un tipo de punto flotante

3 la respuesta

Convierta el flotante IEEE 754 firmado en representación hexadecimal

Estoy usando un front-end de Lua que desafortunadamente está desactualizado, así que estoy atascado con la versión 5.1 aquí, es decir,

3 la respuesta

Swift: extraer flotante de datos de bytes

Estoy buscando una forma robusta y elegante de extraer cuatro bytes big-endian de una matriz como flotante. Puedo obtener un UInt32 con los bits a través de algo como esto: let data: [Byte] = [0x00, 0x00, 0x00, 0x40, 0x86, 0x66, 0x66, 0x00] let ...

7 la respuesta

Conversión de flotante a char *

¿Cómo puedo convertir unfloat valor parachar* enC ¿idioma?

1 la respuesta

¿Por qué str (float) devuelve más dígitos en Python 3 que Python 2?

En Python 2.7,repr de unfloat devuelve el número decimal más cercano de hasta 17 dígitos de largo; Esto es lo suficientemente preciso como para identificar de forma exclusiva cada valor de punto flotante IEEE posible.str de unfloat funcionó de ...