Resultados de la búsqueda a petición "precision"
¿Cuál es el método más preciso en python para calcular la solución de norma mínima o la solución obtenida del pseudoinverso?
Mi objetivo es resolver: Kc=ycon el pseudo-inverso (es decirsolución de norma mínima): c=K^{+}ytal que el modelo es (con suerte) modelo polinomial de alto gradof(x) = sum_i c_i x^i. Estoy especialmente interesado en el caso subdeterminado ...
Análisis de flotante / precisión doble en 32 dígitos decimales
De un archivo .c de otro chico, vi esto: const float c = 0.70710678118654752440084436210485f;donde quiere evitar el cálculo desqrt(1/2). ¿Puede esto realmente almacenarse de alguna manera con plainC/C++? Quiero decir sin perder precisión. Me ...
¿Cómo interpreto la precisión y la escala de un número en una base de datos?
Tengo la siguiente columna especificada en una base de datos: decimal (5,2) ¿Cómo se interpreta esto? De acuerdo con las propiedades de la columna como se ve en el estudio de administración de SQL Server, puedo ver que significa: decimal ...
¿Alta precisión aritmétrica en Python y / o C / C ++?
Resumen: ¿Qué paquete de Python o C-Library es la mejor opción para operaciones aritméticas de muy alta precisión? Tengo algunas funciones que convierten días fraccionarios (0.0-0.99999..) a un formato legible para el ser humano (horas, minutos, ...
¿Cuál es la diferencia entre float y double?
He leído sobre la diferencia entre precisión doble y precisión simple. Sin embargo, en la mayoría de los casos,float ydouble parece ser intercambiable, es decir, usar uno u otro no parece afectar los resultados. ¿Es este realmente el caso? ...
Valores numéricos extremos en precisión de punto flotante en R
¿Alguien puede explicarme la siguiente salida? Sé que tiene algo que ver con la precisión de coma flotante, pero el orden de magnitud (diferencia 1e308) me sorprende. 0: alta precisión > 1e-324==0 [1] TRUE > 1e-323==0 [1] FALSE1: muy poco ...
¿Por qué agregar 0.1 múltiples veces permanece sin pérdidas?
Sé que el0.1 el número decimal no se puede representar exactamente con un número binario finito (explicación [http://www.exploringbinary.com/why-0-point-1-does-not-exist-in-floating-point/] ), entoncesdouble n = 0.1 perderá algo de precisión y no ...
La precisión de Math.log2 ha cambiado en Chrome
He escrito un programa de JavaScript que calcula la profundidad de un árbol binario en función de la cantidad de elementos. Mi programa ha estado funcionando bien durante meses, pero recientemente he encontrado una diferencia cuando la página web ...
x86-64 largo doble precisión
¿Cuál es la precisión real del doble largo en las plataformas Intel de 64 bits? ¿Son 80 bits acolchados a 128 o 128 bits reales? si es anterior, además de ir a gmp, ¿hay otra opción para lograr una verdadera precisión 128?
¿Cómo redondeas un doble en Dart con un grado de precisión dado DESPUÉS del punto decimal?
Dado un doble, quiero redondearlo a un número dado de puntos de precisióndespués del punto decimal, similar a la función round () de PHP. Lo más parecido que puedo encontrar en los documentos de Dart es double.toStringAsPrecision (), pero esto ...