Resultados de la búsqueda a petición "floating-point"
Implementación eficiente de log2 (__ m256d) en AVX2
SVML__m256d _mm256_log2_pd (__m256d a) no está disponible en otros compiladores que no sean Intel, y dicen que su rendimiento está limitado en los procesadores AMD. Hay algunas implementaciones en internet referidas en¿Faltan intrínsecos ...
Orden de operaciones para maximizar la precisión
Estoy usando flotadores para estas operaciones: ¿Cuál de estos dos es más preciso? (a B Co (a / c) * b¿Importa en absoluto o depende de la situación? Si es así, ¿cuál debo elegir en qué casos?
¿Cuáles son las mejores prácticas para pasar montos en dólares en JSON?
¿Cuáles son las mejores prácticas para pasar montos en dólares en JSON? ¿Pasar las cantidades como cuerdas o flotadores? ¿u otro? Estamos un poco preocupados por los errores de redondeo que se muestran en el cliente (iOS / Android / Web), o ...
¿Cómo voltear el exponente de un doble (por ejemplo, 1e300-> 1e-300)?
Estoy interesado en escribir un programa C rápido que invierta el exponente de un doble. Por ejemplo, este programa debería convertir 1e300 a 1e-300. Supongo que la mejor manera sería algunas operaciones de bit, pero me falta ...
MATLAB está redondeando al entero más cercano
tengo un1x50000 matriz de tamañov y quiero convertirlo a media cero y varianza unitaria: x = ((v-mean(v))/std2(v));Pero en lugar de darme valores exactos de coma flotante, MATLAB lo está convirtiendo en enteros más cercanos. Por favor, ayúdame a ...
¿Por qué Int (Float (Int.max)) me da un error?
Observé algo realmente extraño. Si ejecuta este código en Swift: Int(Float(Int.max))Se bloquea con el mensaje de error: error fatal: el valor flotante no se puede convertir a Int porque el resultado sería mayor que Int.max Esto es realmente ...
Rango de magnitud para flotante en lenguaje de programación c?
En el libro The C Programming Language de Dennis Ritchie, se menciona que "un número flotante es típicamente una cantidad de 32 bits, con al menos seis dígitos significativos y una magnitud generalmente entre 10 ^ -38 y 10 ^ + 38". ¿Cómo es eso ...
Redondeo predeterminado del formato Python al formatear el número flotante
Estoy tratando de resolver algunos problemas de punto flotante en mi código en Python 2.7.10. Al probar, he encontrado un comportamiento extraño con elformat método: print "{}".format(0.3000000000004) # 13 decimalsHuellas ...
¿Cómo funciona esta aproximación de raíz cuadrada flotante?
Encontré una aproximación de raíz cuadrada bastante extraña pero funcional parafloats; Realmente no lo entiendo. ¿Alguien puede explicarme por qué funciona este código? float sqrt(float f) { const int result = 0x1fbb4000 + (*(int*)&f >> 1); ...
El comportamiento de la división de coma flotante por cero
Considerar #include <iostream> int main() { double a = 1.0 / 0; double b = -1.0 / 0; double c = 0.0 / 0; std::cout << a << b << c; // to stop compilers from optimising out the code. }Siempre he pensado quea será + Inf,b será -Inf, yc será NaN. ...