Resultados de la búsqueda a petición "floating-point-precision"
¿Por qué el uso de módulo en valores no enteros pierde la precisión del punto flotante? [duplicar]
Esta pregunta ya tiene una respuesta aquí: * ¿Por qué veo una variable doble inicializada en un valor como 21.4 como 21.399999618530273? [/questions/177506/why-do-i-see-a-double-variable-initialized-to-some-value-like-21-4-as-21-3999996] ...
Java: máxima pérdida de precisión en una doble suma / resta
¿Es posible establecer, incluso de manera aproximada, cuál sería la pérdida de precisión máxima al tratar con dos?
Python: Encuentre el índice del elemento mínimo en la lista de flotantes [duplicar]
Esta pregunta ya tiene una respuesta aquí:Obtención del índice del artículo máximo o mínimo devuelto utilizando max () / min () en una lista 21 respuestas¿Có...
Establecer precisión específica de un BigDecimal
Yo tengo un XSD [https://en.wikipedia.org/wiki/XSD] que requiere que use un BigDecimal para un lat / lon. Actualmente tengo el lat / lon como dobles, y los convierto a BigDecimal, pero solo estoy obligado a usar unos 12 lugares de precisión. No ...
Es una comparación flotante válida que representa un número determinado de decimales?
Estoy escribiendo un método de extensión para comparar dos flotantes usando un número establecido de puntos decimales (cifras significativas) para determinar si son iguales en lugar de una tolerancia o una diferencia porcentual. Mirando a través ...
Representación binaria exacta de un doble [duplicado]
Posible duplicado: Flotar a binario en C ++ [https://stackoverflow.com/questions/2746380/float-to-binary-in-c] Tengo una doble var muy pequeña, y cuando la imprimo obtengo -0. (usando C ++). Ahora, para obtener una mejor precisión, intenté ...