Resultados de la búsqueda a petición "precision"
Servidor SQL Precisión Locura
Tengo un problema con la precisión del servidor SQL. Tengo las siguientes consultas: DECLARE @A numeric(30,10) DECLARE @B numeric(30,10) SET @A = 20.225 SET @B = 53.3875 SELECT @A * @B DECLARE @A1 numeric(30,14) DECLARE @B1 numeric(30,14) ...
¿Cómo trabajar con grandes números en R?
Me gustaría cambiar la precisión en un cálculo de R. Por ejemplo, me gustaría calcularx^6 conx = c(-2.5e+59, -5.6e+60). Para calcularlo, debería cambiar la precisión en R, de lo contrario, el resultado esInf, y no sé cómo hacerlo.
Cómo calcular la precisión y la recuperación en Keras
Estoy creando un clasificador de varias clases con Keras 2.02 (con el backend Tensorflow), y no sé cómo calcular la precisión y la recuperación en Keras. Por favor, ayúdame.
¿Cómo interpreto la precisión y la escala de un número en una base de datos?
Tengo la siguiente columna especificada en una base de datos: decimal (5,2) ¿Cómo se interpreta esto? De acuerdo con las propiedades de la columna como se ve en el estudio de administración de SQL Server, puedo ver que significa: decimal ...
Pérdida inesperada de precisión al dividir dobles
Tengo una función getSlope que toma como parámetros 4 dobles y devuelve otro doble calculado usando estos parámetros dados de la siguiente manera: double QSweep::getSlope(double a, double b, double c, double d){ double slope; slope=(d-b)/(c-a); ...
Existe una manera confiable en JavaScript para obtener el número de decimales de un número arbitrario?
Es importante tener en cuenta que no estoy buscando una función de redondeo. Estoy buscando una función que devuelva el número de lugares decimales en la representación decimal simplificada de un número arbitrario. Es decir, tenemos lo ...
javascript redondo entero grande porque precisión? (¿por qué?
si escribe 78764357878563812 en cromo o en safari, obtendrá Si lo hace for(var i = 0; i < 30; i++){console.log(i + " == " + 78764357878563800 + " ? ");console.log((78764357878563790+i) == 78764357878563800);}mpiezas a comparar valores de ...
Error aritmético de punto flotante
Estoy usando la siguiente función para aproximar la derivada de una función en un punto:
Eliminar más de 2 cero final
He leído muchas preguntas en el desbordamiento de la pila, lo que quiero es eliminar 2 o más de dos ceros detrás del decimal. es decir 12.00 ==> 12 12.30 ==> 12.30 12.35 ==> 12.35 12.345678 ==> 12.34
¿Es apropiado el uso de la máquina épsilon para las pruebas de igualdad de punto flotante?
Este es un seguimiento dePrueba de igualdad de valor de punto flotante: ¿Hay un nombre estándar para la constante de ...