Resultados de la búsqueda a petición "floating-point"
Convertir IEEE 754 de flujo de bits a flotante en JavaScript
He serializado un número flotante de 32 bits usando la función de lenguaje GO ( matemáticas Flotador de 32 bits [https://golang.org/pkg/math/#Float32bits]) que devuelve el número de coma flotante correspondiente a la representación binaria IEEE ...
Números flotantes de precisión arbitraria en JavaScript
Tengo algunas entradas en mi sitio que representan números de punto flotante con hasta diez dígitos de precisión (en decimal). En algún punto, en el código d...
¿Por qué no se permite 'Infinito' en las carrozas de Erlang?
Erlang (y por extensión Elixir) admite números de punto flotante. Algunos flotadores posibles: 1.23451.0e101.0e-42Erlang admite NaN (nan. en Erlang) (Sin embargo, todavía estoy por descubrir un método que generenan sí mismo). Sin embargo, ...
Formato / Supresión de la notación científica de los resultados de la agregación de Python Pandas
¿Cómo se puede modificar el formato para la salida de una operación groupby en pandas que produce una notación científica para números muy grandes? Sé cómo h...
¿Cómo verificar que se utiliza la representación de punto flotante de precisión simple (32 bits) IEEE 754?
Quiero probar las siguientes cosas en mi tablero objetivo:¿Se implementa 'float' con la variable de punto flotante IEEE 754 de precisión simple (32 b...
¿Es correcto comparar un doble a cero si previamente lo inicializó a cero?
Aprendí que comparando un doble usando
pow () parece estar fuera por uno aquí
Que está pasando aqui:
¿Cuáles son los otros valores de NaN?
losdocumentación para
¿Cuál es el primer entero que un flotador IEEE 754 es incapaz de representar exactamente?
Para mayor claridad, si estoy usando un lenguaje que implementa flotadores IEE 754 y declaro: float f0 = 0.f; float f1 = 1.f;... y luego imprimirlos de nuevo, obtendré 0.0000 y 1.0000 - exactamente. Pero IEEE 754 no es capaz de representar ...