Resultados de la búsqueda a petición "precision"
Orden de operaciones para maximizar la precisión
Estoy usando flotadores para estas operaciones: ¿Cuál de estos dos es más preciso? (a B Co (a / c) * b¿Importa en absoluto o depende de la situación? Si es así, ¿cuál debo elegir en qué casos?
¿Cuáles son las reglas que rigen los cálculos mixtos de precisión simple y doble de C ++?
Por ejemplo, estas variables: result (double) a (double) b (float) c (float) d (double)Un cálculo simple: result = a * (b + c) * d¿Cómo y cuándo se convierten los tipos y cómo calculo con qué precisión se realiza cada cálculo?
"Nuevo BigDecimal (13.3D)" da como resultado impreciso "13.3000000000000007105 .."?
¿Cómo es que JavaBigDecimal puede ser tan doloroso? Double d = 13.3D; BigDecimal bd1 = new BigDecimal(d); BigDecimal bd2 = new BigDecimal(String.valueOf(d)); System.out.println("RESULT 1: "+bd1.toString()); System.out.println("RESULT 2: ...
PHP7.1 json_encode () Problema de flotación
Esta no es una pregunta, ya que es más un cuidado. Actualicé una aplicación que usajson_encode() a PHP7.1.1 y estaba viendo un problema con los flotadores que se cambian para extender a veces 17 dígitos. Según la documentación, PHP 7.1.x comenzó ...
¿Por qué mi doble puede contener un valor debajo de la máquina epsilon?
Estaba resolviendo una ecuación usando doble precisión y obtuve-7.07649e-17 como una solución en lugar de0. Estoy de acuerdo en que está lo suficientemente cerca como para decir que es igual peroHe leído que la máquina épsilon para el tipo doble ...
¿Por qué los números de coma flotante son inexactos?
¿Por qué algunos números pierden precisión cuando se almacenan como números de coma flotante? Por ejemplo, el número decimal9.2 se puede expresar exactamente como una razón de dos enteros decimales (92/10), que se pueden expresar exactamente en ...
Precisión garantizada de la función sqrt en C / C ++
Todo el mundo sabesqrt funcionar desdemath.h/cmath en C / C ++: devuelve la raíz cuadrada de su argumento. Por supuesto, tiene que hacerlo con algún error, porque no todos los números se pueden almacenar con precisión. Pero, ¿estoy seguro de que ...
¿Cómo trabajar con grandes números en R?
Me gustaría cambiar la precisión en un cálculo de R. Por ejemplo, me gustaría calcularx^6 conx = c(-2.5e+59, -5.6e+60). Para calcularlo, debería cambiar la precisión en R, de lo contrario, el resultado esInf, y no sé cómo hacerlo.
Cómo calcular la precisión y la recuperación en Keras
Estoy creando un clasificador de varias clases con Keras 2.02 (con el backend Tensorflow), y no sé cómo calcular la precisión y la recuperación en Keras. Por favor, ayúdame.
Decimales de precisión arbitraria en C # [duplicado]
Posibles duplicados: Grandes enteros en C # [https://stackoverflow.com/questions/176775/big-integers-in-c] C # dígitos decimales significativos ilimitados (precisión arbitraria) sin ...