Resultados de la búsqueda a petición "floating-point"
Truncar (no redondear) números decimales en javascript
Estoy tratando de truncar números decimales a lugares decimales. Algo como esto: 5.467 -> 5.46 985.943 -> 985.94toFixed(2) hace casi lo correcto pero completa el valor. No necesito el valor redondeado. Espero que esto sea posible en javascript.
¿Cómo determina JavaScript el número de dígitos a producir al formatear valores de punto flotante?
En JavaScript, todos conocen el famoso cálculo:0.1 + 0.2 = 0.30000000000000004. Pero, ¿por qué JavaScript imprime este valor en lugar de imprimir el más preciso y preciso?0.300000000000000044408920985006?
Convertir un valor decimal a un hexadecimal de coma flotante de 32 bits
Para una utilidad simple en la que estoy trabajando, necesito un script que convierta un valor decimal dado en un valor hexadecimal de coma flotante de 32 bits. Por ejemplo, sé que 1 es 3F800000 y 100 es 42C80000, sin embargo, no sé cómo devolver ...
¿Siempre es seguro negar un número de coma flotante?
Considerar: double f = foo(); double g = -f;dóndefoo() puede devolver cualquier cosa que se le asignef. esdouble g = -f; seguro en C y C ++? Para los tipos IEEE 754, obviamente lo es, pero C y C ++ no restringen la implementación de coma ...
¿Cómo cambiar un número float64 a uint64 de la manera correcta?
package main func main() { var n float64 = 6161047830682206209 println(uint64(n)) }El resultado será: 6161047830682206208Se ve así cuandofloat64 cambiar auint64, la fracción se descarta.
¿Regla de oro para probar la igualdad de dos dobles en C #?
Digamos que tengo un código que hace algo de aritmética de punto flotante y almacena los valores en dobles. Debido a que algunos valores no pueden representarse perfectamente en binario, ¿cómo pruebo la igualdad con un grado razonable de ...
Suma Kahan
¿Alguien ha usado la suma de Kahan en una aplicación? ¿Cuándo sería útil la precisión extra? Escuché que en algunas plataformas las operaciones dobles son más rápidas que las operaciones flotantes. ¿Cómo puedo probar esto en mi máquina?
¿Por qué el sesgo del exponente IEEE-754 utilizado en este código C es 126.94269504 en lugar de 127?
La siguiente función C es defastapprox [https://code.google.com/p/fastapprox/] proyecto. static inline float fasterlog2 (float x) { union { float f; uint32_t i; } vx = { x }; float y = vx.i; y *= 1.1920928955078125e-7f; return y - 126.94269504f; ...
¿Cómo debo hacer la comparación de punto flotante?
Actualmente estoy escribiendo un código donde tengo algo en la línea de: double a = SomeCalculation1(); double b = SomeCalculation2(); if (a < b) DoSomething2(); else if (a > b) DoSomething3();Y luego, en otros lugares, es posible que deba hacer ...
Estado de __STDC_IEC_559__ con compiladores de C modernos
C99 agregó una macro__STDC_IEC_559__ que puede usarse para probar si un compilador y una biblioteca estándar cumplen con el estándar ISO / IEC / IEEE 60559 (o IEEE 754). Según las respuestas a esta ...