Resultados de la búsqueda a petición "floating-point"
Django, la división entre dos resultados de anotación no se calculará correctamente
Estoy tratando de obtener una división entre dos resultados de anotaciones en el conjunto de consultas. La impresión es mucho mayor que el clic, por lo que debería obtener el décimo decimal. def get_queryset(self): ...
Precisión de punto flotante al pasar de i386 a x86_64
Tengo una aplicación que fue desarrollada para Linux x86 32 bits. Hay muchas operaciones de punto flotante y muchas pruebas dependiendo de los resultados. Ahora lo estamos transfiriendo a x86_64, pero los resultados de la prueba son diferentes en ...
Cree flotadores compactos / amigables para los humanos con fracciones vulgares unicode
¿Hay algún módulo (preferiblemente en la biblioteca estándar) que pueda convertir un número flotante en algo que sea más amigable para los humanos? Tal vez no sea más amigable para los humanos, pero al menos más compacto. p.ej. 4.625 se ...
¿Cuál es exactamente el parámetro de "resolución" de flotador numpy
Estoy buscando un poco más de comprensión sobre el parámetro de "resolución" de un flotador numpy (supongo que cualquier flotador definido por computadora para el caso). Considere el siguiente script: import numpy as np a = np.finfo(10.1) print ...
Cambiar el formato de impresión flotante predeterminado
Tengo algunas listas y estructuras más complejas que contienen flotadores. Al imprimirlos, veo los flotadores con muchos dígitos decimales, pero al imprimir, no los necesito a todos. Por lo tanto, me gustaría definir un formato personalizado (por ...
Escribir IEEE 754-1985 doble como ASCII en una cadena limitada de 16 bytes
Este es un seguimiento de mipublicación original [https://stackoverflow.com/questions/32629084/best-ieee-754-1985-representation-for-x3-9-1978-based-standard] . Pero lo repetiré por claridad: Según el estándar DICOM, se puede almacenar un tipo ...
¿Es apropiado el uso de la máquina épsilon para las pruebas de igualdad de punto flotante?
Este es un seguimiento dePrueba de igualdad de valor de punto flotante: ¿Hay un nombre estándar para la constante de ...
¿Deberíamos comparar los números de coma flotante para igualdad con un error * relativo *?
Hasta ahora he visto muchas publicaciones relacionadas con la igualdad de números de coma flotante. La respuesta estándar a una pregunta como "¿cómo deberíamos decidir si xey son iguales?" es abs(x - y) < epsilondonde epsilon es unfijo, pequeña ...
¿Qué tipo de aplicaciones web pueden verse afectadas de manera realista por el error flotante?
Hay una manera fácil de bloquear totalmente una gran cantidad de JVM: class runhang { public static void main(String[] args) { System.out.println("Test:"); double d = Double.parseDouble("2.2250738585072012e-308"); System.out.println("Value: " ...
Truncar número decimal no redondeado [duplicado]
Posible duplicado: c # - ¿Cómo redondeo un valor decimal a 2 decimales (para salida en una página) [https://stackoverflow.com/questions/164926/c-sharp-how-do-i-round-a-decimal-value-to-2-decimal-places-for-output-on-a-pa] Quiero truncar los ...