Resultados de la búsqueda a petición "precision"
¿Cuál es exactamente el parámetro de "resolución" de flotador numpy
Estoy buscando un poco más de comprensión sobre el parámetro de "resolución" de un flotador numpy (supongo que cualquier flotador definido por computadora para el caso). Considere el siguiente script: import numpy as np a = np.finfo(10.1) print ...
¿Cómo redondeas un doble en Dart con un grado de precisión dado DESPUÉS del punto decimal?
Dado un doble, quiero redondearlo a un número dado de puntos de precisióndespués del punto decimal, similar a la función round () de PHP. Lo más parecido que puedo encontrar en los documentos de Dart es double.toStringAsPrecision (), pero esto ...
La precisión de Math.log2 ha cambiado en Chrome
He escrito un programa de JavaScript que calcula la profundidad de un árbol binario en función de la cantidad de elementos. Mi programa ha estado funcionando bien durante meses, pero recientemente he encontrado una diferencia cuando la página web ...
¿Por qué agregar 0.1 múltiples veces permanece sin pérdidas?
Sé que el0.1 el número decimal no se puede representar exactamente con un número binario finito (explicación [http://www.exploringbinary.com/why-0-point-1-does-not-exist-in-floating-point/] ), entoncesdouble n = 0.1 perderá algo de precisión y no ...
Valores numéricos extremos en precisión de punto flotante en R
¿Alguien puede explicarme la siguiente salida? Sé que tiene algo que ver con la precisión de coma flotante, pero el orden de magnitud (diferencia 1e308) me sorprende. 0: alta precisión > 1e-324==0 [1] TRUE > 1e-323==0 [1] FALSE1: muy poco ...
Análisis de flotante / precisión doble en 32 dígitos decimales
De un archivo .c de otro chico, vi esto: const float c = 0.70710678118654752440084436210485f;donde quiere evitar el cálculo desqrt(1/2). ¿Puede esto realmente almacenarse de alguna manera con plainC/C++? Quiero decir sin perder precisión. Me ...
¿Cómo trabajar con grandes números en R?
Me gustaría cambiar la precisión en un cálculo de R. Por ejemplo, me gustaría calcularx^6 conx = c(-2.5e+59, -5.6e+60). Para calcularlo, debería cambiar la precisión en R, de lo contrario, el resultado esInf, y no sé cómo hacerlo.
Precisión garantizada de la función sqrt en C / C ++
Todo el mundo sabesqrt funcionar desdemath.h/cmath en C / C ++: devuelve la raíz cuadrada de su argumento. Por supuesto, tiene que hacerlo con algún error, porque no todos los números se pueden almacenar con precisión. Pero, ¿estoy seguro de que ...
¿Por qué los números de coma flotante son inexactos?
¿Por qué algunos números pierden precisión cuando se almacenan como números de coma flotante? Por ejemplo, el número decimal9.2 se puede expresar exactamente como una razón de dos enteros decimales (92/10), que se pueden expresar exactamente en ...