Resultados de la búsqueda a petición "ieee-754"
Convertir ieee754 a decimal en nodo
Tengo un buffer en el nodo<Buffer 42 d9 00 00> se supone que representa el decimal 108.5. Estoy usando este módulo para intentar decodificar el búfer: https://github.com/feross/ieee754 [https://github.com/feross/ieee754]. ieee754.read = function ...
¿Cómo se implementa fma ()
De acuerdo con ladocumentación [http://sourceware.org/newlib/libm.html#fma], hay unfma() funcionar enmath.h. Eso es muy bueno, y sé cómo funciona FMA y para qué usarlo. Sin embargo, no estoy tan seguro de cómo se implementa esto en la práctica. ...
¿Por qué el sesgo del exponente IEEE-754 utilizado en este código C es 126.94269504 en lugar de 127?
La siguiente función C es defastapprox [https://code.google.com/p/fastapprox/] proyecto. static inline float fasterlog2 (float x) { union { float f; uint32_t i; } vx = { x }; float y = vx.i; y *= 1.1920928955078125e-7f; return y - 126.94269504f; ...
Estado de __STDC_IEC_559__ con compiladores de C modernos
C99 agregó una macro__STDC_IEC_559__ que puede usarse para probar si un compilador y una biblioteca estándar cumplen con el estándar ISO / IEC / IEEE 60559 (o IEEE 754). Según las respuestas a esta ...
float128 y aritmética doble-doble
He visto en Wikipedia que de alguna manera implementar precisión cuádruple es usar aritmética doble-doble incluso si no es exactamente la misma precisión en términos de ...
cuantos números enteros hay en IEEE 754
Estoy tratando de averiguar cuántos números enteros existen en el ieee 754. El número que obtuve fue 1778384895, pero no pude encontrar ningún recurso para comprobarlo. Muchas gracias por adelantado.
¿Qué usos tienen las cargas útiles de NaN de punto flotante?
Sé que IEEE 754 define que los NaN tienen la siguiente representación a nivel de bits: El bit de signo puede ser0 o1El campo exponente contiene todos1 pedacitosAlgunos bits de la mantisa se utilizan para especificar si se trata de un NaN ...
Fusión múltiple agregada y modos de redondeo predeterminados
Con GCC 5.3, el siguiente código compield con-O3 -fma float mul_add(float a, float b, float c) { return a*b + c; }produce el siguiente ensamblaje vfmadd132ss %xmm1, %xmm2, %xmm0 retNoté que GCC hacía esto con-O3 ya en GCC ...
Matlab vs C ++ doble precisión
Estoy portando algún código de Matlab a C ++. En matlab format long D = 0.689655172413793 (this is 1.0 / 1.45) E = 2600 / D // I get E = 3.770000000000e+03En C ++ double D = 0.68965517241379315; //(this is 1.0 / 1.45) double E = 2600 / D; ...
Explicación de Layman de por qué JavaScript tiene matemática flotante extraña: estándar IEEE 754 [duplicado]
Esta pregunta ya tiene una respuesta aquí: Las matemáticas de punto flotante están rota [/questions/588004/is-floating-point-math-broken] 28 respuestas Nunca entiendo exactamente qué sucede con JavaScript cuando hago operaciones matemáticas ...