Resultados de la búsqueda a petición "floating-point-precision"
¿Cuál es el sufijo de C ++ para dobles literales largos?
En C ++ (y C), un literal de coma flotante sin sufijo se establece de manera predeterminada
los números simples de punto flotante pierden precisión
Estoy usando Delphi XE2 Update 3. Hay problemas de precisión incluso con los números de coma flotante más simples (como3.7) Dado este código (una aplicación de consola de 32 bits): program Project1; {$APPTYPE CONSOLE} {$R *.res} uses ...
Es una comparación flotante válida que representa un número determinado de decimales?
Estoy escribiendo un método de extensión para comparar dos flotantes usando un número establecido de puntos decimales (cifras significativas) para determinar si son iguales en lugar de una tolerancia o una diferencia porcentual. Mirando a través ...
Python: Encuentre el índice del elemento mínimo en la lista de flotantes [duplicar]
Esta pregunta ya tiene una respuesta aquí:Obtención del índice del artículo máximo o mínimo devuelto utilizando max () / min () en una lista 21 respuestas¿Có...
Error al usar (int) y (doble) juntos para cortar decimales
Cuando uso (int) con (doble) algunas veces no funciona correctamente.Mira el ejemplo del código PHP:Necesito dejar 2 decimales y eliminar otro ...Sé que numb...
Java: máxima pérdida de precisión en una doble suma / resta
¿Es posible establecer, incluso de manera aproximada, cuál sería la pérdida de precisión máxima al tratar con dos?
Representación binaria exacta de un doble [duplicado]
Posible duplicado: Flotar a binario en C ++ [https://stackoverflow.com/questions/2746380/float-to-binary-in-c] Tengo una doble var muy pequeña, y cuando la imprimo obtengo -0. (usando C ++). Ahora, para obtener una mejor precisión, intenté ...
"GL_HALF_FLOAT" con renderizado OpenGL y GLSL
Estoy programando un renderizador OpenGL en C ++. Quiero que sea lo más eficiente posible y que cada vértice / normal / coord de texto UV / tangentes / etc. ocupe la menor cantidad de memoria posible. Estoy usando índices, franjas de línea y ...
La conversión de Int a Float pierde precisión para grandes números en Swift
XCode 6.3.1 Swift 1.2 let value: Int = 220904525 let intmax = Int.max let float = Float(value) // Here is an error probably let intFromFloat = Int(float) let double = Double(value) println("intmax=\(intmax) value=\(value) ...