Resultados de la búsqueda a petición "precision"
¿Cómo mantengo la precisión para un programa Fortran MPI de manera portátil?
Tengo un programa de Fortran donde especifico el
Establecer precisión para un número flotante en PHP
Obtengo un número de la base de datos y este número puede ser
¿Por qué los números de coma flotante son inexactos?
¿Por qué algunos números pierden precisión cuando se almacenan como números de coma flotante? Por ejemplo, el número decimal9.2 se puede expresar exactamente como una razón de dos enteros decimales (92/10), que se pueden expresar exactamente en ...
Precisión garantizada de la función sqrt en C / C ++
Todo el mundo sabesqrt funcionar desdemath.h/cmath en C / C ++: devuelve la raíz cuadrada de su argumento. Por supuesto, tiene que hacerlo con algún error, porque no todos los números se pueden almacenar con precisión. Pero, ¿estoy seguro de que ...
¿Cómo trabajar con grandes números en R?
Me gustaría cambiar la precisión en un cálculo de R. Por ejemplo, me gustaría calcularx^6 conx = c(-2.5e+59, -5.6e+60). Para calcularlo, debería cambiar la precisión en R, de lo contrario, el resultado esInf, y no sé cómo hacerlo.
Análisis de flotante / precisión doble en 32 dígitos decimales
De un archivo .c de otro chico, vi esto: const float c = 0.70710678118654752440084436210485f;donde quiere evitar el cálculo desqrt(1/2). ¿Puede esto realmente almacenarse de alguna manera con plainC/C++? Quiero decir sin perder precisión. Me ...
¿Cómo interpreto la precisión y la escala de un número en una base de datos?
Tengo la siguiente columna especificada en una base de datos: decimal (5,2) ¿Cómo se interpreta esto? De acuerdo con las propiedades de la columna como se ve en el estudio de administración de SQL Server, puedo ver que significa: decimal ...
¿Cuál es la diferencia entre float y double?
He leído sobre la diferencia entre precisión doble y precisión simple. Sin embargo, en la mayoría de los casos,float ydouble parece ser intercambiable, es decir, usar uno u otro no parece afectar los resultados. ¿Es este realmente el caso? ...