Resultados de la búsqueda a petición "floating-point"
Los pandas leen el archivo csv con resultados de valores flotantes en redondeos extraños y dígitos decimales
Tengo un archivo csv que contiene valores numéricos como1524.449677. Siempre hay exactamente 6 decimales. Cuando importo el archivo csv (y otras columnas) a través de pandasread_csv, la columna obtiene automáticamente el tipo de datosobject. Mi ...
¿Cómo redondeas un número en Python?
Este problema me está matando. ¿Cómo se acumula un número UP en Python? Intenté redondear (número) pero redondeó el número hacia abajo. Ejemplo: round(2.3) = 2.0 and not 3, what I would like¡Intenté int (número + .5) pero redondea el número ...
Python: Convertir cadena (en notación científica) a flotante
Estoy tratando de importar un gran archivo .csv que contiene texto y números usando genfromtxt en numpy. Solo me interesan dos columnas. Tengo la mayor parte de la importación resuelta con: def importfile(root): data = root.entry.get() atw = ...
¿Puedes comparar los valores de coma flotante exactamente a cero?
Sé que no podemos comparar 2 valores de coma flotante usando ==. Solo podemos compararlos dentro de un intervalo entre sí. Lo sé if(val == 0.512)está mal debido a errores inherentes en los cálculos de coma flotante y la conversión a binario y ...
¿Por qué la literatura de aproximación al pecado basada en tablas siempre usa esta fórmula cuando otra fórmula parece tener más sentido?
La literatura sobre computación de la función elementalsin con tablas se refiere a la fórmula: sin(x) = sin(Cn) * cos(h) + cos(Cn) * sin(h)dóndex = Cn + h, Cn es una constante para la cualsin(Cn) ycos(Cn) se han calculado previamente y están ...
Mejores prácticas para la comparación de flotadores en Matlab
Obviamente, la comparación de flotadores siempre es complicada. Tengo un montón de verificación de afirmación en mi código (científico), por lo que muy a menudo tengo que verificar la igualdad de sumas con respecto a uno y ...
¿Por qué la velocidad de este solucionador SOR depende de la entrada?
Relacionado con miotra pregunta [https://stackoverflow.com/questions/2388196/how-to-speed-up-my-sparse-matrix-solver] , Ahora he modificado el solucionador de matriz dispersa para usar el método SOR (sucesiva sobre-relajación). El código ahora es ...
¿Cuál es la diferencia entre float y double?
He leído sobre la diferencia entre precisión doble y precisión simple. Sin embargo, en la mayoría de los casos,float ydouble parece ser intercambiable, es decir, usar uno u otro no parece afectar los resultados. ¿Es este realmente el caso? ...
¿Cómo separar el flotador en un número entero y una parte fraccional?
Estoy dispuesto a lanzar operaciones precisas y para ese propósito necesito una forma de separar un número flotante en un número entero y una parte fraccional. ¿Hay alguna forma de esto?
Impresión doble sin perder precisión
¿Cómo imprime un doble en una secuencia para que cuando se lea no pierda precisión? Lo intenté: std::stringstream ss; double v = 0.1 * 0.1; ss << std::setprecision(std::numeric_limits<T>::digits10) << v << " "; double u; ss >> u; std::cout << ...