Resultados de la búsqueda a petición "floating-accuracy"
c ++ fmod devuelve 0.2 para fmod (0.6,0.2)
cuando uso fmod (0.6,0.2) en c ++ devuelve 0.2 Sé que esto es causado por la precisión de coma flotante, pero parece que tengo que obtener el resto de dos dobles en este momento muchas gracias por cualquier solución para este tipo de problema
¿Puedo usar pandas.dataframe.isin () con un parámetro de tolerancia numérico?
Revisé las siguientes publicaciones de antemano. ¿Hay alguna manera de usar DataFrame.isin () con un factor de aproximación o un valor de tolerancia? ¿O hay otro método que podría? Filtre las filas del marco de datos si el valor en la columna ...
¿Por qué las operaciones con valores de doble precisión no dan los resultados esperados?
System.out.println(2.14656);2.14656 System.out.println(2.14656%2);0.14656000000000002 WTF?
¿Por qué el valor de coma flotante de 4 * 0.1 se ve bien en Python 3 pero 3 * 0.1 no?
Sé que la mayoría de los decimales no tienen una representación exacta de coma flotante (¿Se han roto las matemáticas de coma flotante? [https://stackoverflow.com/questions/588004]) Pero no veo porque4*0.1 se imprime muy bien como0.4, pero3*0.1 ...
Truncar números flotantes con PHP
Cuando un número flotante necesita truncarse a un cierto dígito después del punto flotante, resulta que no es fácil hacerlo. Por ejemplo, si el truncamiento debe hacerse al segundo dígito después del punto, los números deben ser 45.8976 => 45.89, ...
Precisión de punto flotante IEEE-754: ¿cuánto error está permitido?
Estoy trabajando en portar elsqrt función (para dobles de 64 bits) defdlibm [http://www.netlib.org/fdlibm/]a una herramienta de verificación de modelos que estoy usando en este momento (cbmc [http://www.cprover.org/cbmc/]) Como parte de mis ...
Punto flotante y menos que igual después de sumar y restar
¿Existe una "mejor práctica" de comparaciones menos que iguales con el número de coma flotante después de una serie de operaciones aritméticas de coma flotante? Tengo el siguiente ejemplo en R, aunque la pregunta no solo se aplica a R, sino a ...
Precisión garantizada de la función sqrt en C / C ++
Todo el mundo sabesqrt funcionar desdemath.h/cmath en C / C ++: devuelve la raíz cuadrada de su argumento. Por supuesto, tiene que hacerlo con algún error, porque no todos los números se pueden almacenar con precisión. Pero, ¿estoy seguro de que ...
Flotadores de alta precisión numérica con MySQL y SQLAlchemy ORM
Almaceno algunos números en un MySQL usando el ORM de SQLAlchemy. Cuando los recupero después, se truncan de tal manera que solo se conservan 6 dígitos significativos, lo que pierde mucha precisión en mis números flotantes. Supongo que hay una ...
La condición "mayor que" de MySQL a veces devuelve una fila con el mismo valor
Me encuentro con un problema desconcertante con una consulta básica de MySQL. Esta es mi mesa: id | rating 1 | 1317.17 2 | 1280.59 3 | 995.12 4 | 973.88Ahora, estoy tratando de encontrar todas las filas donde elrating La columna es mayor que un ...