Resultados de la búsqueda a petición "floating-point"

3 la respuesta

Python float equidad equidad

Viendo algún comportamiento inesperado con Python esta noche. ¿Por qué la siguiente impresión es 'no igual'?

2 la respuesta

JSON.parse analiza / convierte grandes números incorrectamente

Mi problema es realmente simple, pero no estoy seguro de si hay una solución "nativa" que use JSON.parse.Recibo estocuerda desde una API:

2 la respuesta

¿Cómo convertir una cadena hexadecimal a flotar en Java?

11 la respuesta

¿Debo usar doble o flotar?

8 la respuesta

¿Algún compilador JIT de JVM genera código que usa instrucciones vectorizadas de punto flotante?

4 la respuesta

¿Cómo imprimir un valor flotante desde un archivo binario en shell?

Tengo un archivo binario que consiste en un valor de doble flotante (8 bytes) o solo flotante (4 bytes) que se generó de la siguiente manera: $ python -c $'from struct import pack\nwith open("file.bin", "wb") as f: f.write(pack("<d", 0.123))' $ ...

2 la respuesta

Agregando a Number.MAX_VALUE

La respuesta a esta pregunta puede ser dolorosamente obvia, pero no puedo encontrarla en los documentos de Mozilla ni en Google mediante una búsqueda superfi...

7 la respuesta

imprimiendo la parte integral de un número de punto flotante

Estoy tratando de averiguar cómo imprimir números de punto flotante sin usar las funciones de la biblioteca. La impresión de la parte decimal de un número de...

20 la respuesta

¿Por qué los números decimales no se pueden representar exactamente en binario?

Se han publicado varias preguntas al SO sobre la representación en punto flotante. Por ejemplo, el número decimal 0.1 no tiene una representación binaria exa...

4 la respuesta

Python flotar en la conversión int

Tengo un problema que realmente me vuelve loco. Normalmente haciendo