Resultados de la búsqueda a petición "precision"
¿Por qué 24.0000 no es igual a 24.0000 en MATLAB?
Estoy escribiendo un programa donde necesito eliminar puntos duplicados almacenados en una matriz. El problema es que cuando se trata de verificar si esos puntos están en la matriz, MATLAB no puede reconocerlos en la matriz aunque existan. En ...
Pérdida inesperada de precisión al dividir dobles
Tengo una función getSlope que toma como parámetros 4 dobles y devuelve otro doble calculado usando estos parámetros dados de la siguiente manera: double QSweep::getSlope(double a, double b, double c, double d){ double slope; slope=(d-b)/(c-a); ...
¿Por qué no puedo obtener un valor p menor que 2.2e-16?
Encontré este problema con las pruebas t y chi-cuadrado en R, pero supongo que este problema se aplica generalmente a otras pruebas. Si lo hago a <- 1:10 b <- 100:110 t.test(a,b)Yo obtengo:t = -64.6472, df = 18.998, p-value < 2.2e-16. Sé por ...
Eliminar más de 2 cero final
He leído muchas preguntas en el desbordamiento de la pila, lo que quiero es eliminar 2 o más de dos ceros detrás del decimal. es decir 12.00 ==> 12 12.30 ==> 12.30 12.35 ==> 12.35 12.345678 ==> 12.34
Asegurar los dobles de C ++ son 64 bits
En mi programa C ++, necesito extraer un flotante de 64 bits de una secuencia de bytes externa. ¿Hay alguna manera de garantizar, en tiempo de compilación, que los dobles sean de 64 bits? ¿Hay algún otro tipo que debería usar para almacenar los ...
matlab yc difieren con la función cos
Tengo un programa implementado en matlab y el mismo programa en c, y los resultados difieren. e desconcierta un poco que la función cos no devuelva exactamente el mismo resultado. Uso la misma computadora, Intel Core 2 Duo, y 8 bytes de doble ...
Corrección del "resumen" en R con el número apropiado de dígitos de precisión
A simpl pregunta en unsimpl función aparentemente inocente:summary. Hasta que vi resultados para Min y Max que estaban fuera del rango de mis datos, no sabía quesummary tiene undigits argumento para especificar la precisión de los resultados de ...
recisión de @Matlab: la resta simple no es cero
Calculo esta suma simple en Matlab: 2*0.04-0.5*0.4^2 = -1.387778780781446e-017 pero el resultado no es cero. ¿Que puedo hacer
¿Cuál es la diferencia entre una operación de punto flotante de precisión simple y doble precisión?
Cuál es la diferencia entre una operación de punto flotante de precisión simple y una operación flotante de precisión doble? Estoy especialmente interesado en términos prácticos en relación con las consolas de videojuegos. Por ejemplo, ¿la ...
Truncar un número de coma flotante sin redondear hacia arriba
Tengo un número de coma flotante que quiero truncar en 3 lugares pero no quiero redondear. Por ejemplo, convertir1.0155555555555555 a1.015 (no1.016). ¿Cómo haría para hacer esto en Ruby?