Resultados de la búsqueda a petición "floating-point-precision"
¿Es la precisión de dígitos decimales más significativa que se puede convertir a binario y volver a decimal sin pérdida de significación 6 o 7.225?
Me he encontrado con dos fórmulas de precisión diferentes para números de punto flotante. ⌊ (N-1) registro10(2) ⌋ = 6 dígitos decimales(Precisión simple) y N log10(2) ≈ 7.225 dígitos decimales(Precisión simple) DóndeN = 24Bits significativos ...
¿La precisión de coma flotante es mutable o invariante?
Sigo recibiendo respuestas mixtas de si los números de coma flotante (es decir,float, doubleolong double) tienen uno y solo un valor de precisión, o tienen un valor de precisión que puede variar. Un tema llamadoflotante contra doble ...
La conversión de Int a Float pierde precisión para grandes números en Swift
XCode 6.3.1 Swift 1.2 let value: Int = 220904525 let intmax = Int.max let float = Float(value) // Here is an error probably let intFromFloat = Int(float) let double = Double(value) println("intmax=\(intmax) value=\(value) ...
Salida extraña cuando se usa flotador en lugar de doble
Salida extraña cuando usofloat en lugar dedouble #include <stdio.h> void main() { double p,p1,cost,cost1=30; for (p = 0.1; p < 10;p=p+0.1) { cost = 30-6*p+p*p; if (cost<cost1) { cost1=cost; p1=p; } else { break; } printf("%lf\t%lf\n",p,cost); } ...
Precisión de repr (f), str (f), print (f) cuando f es flotante
Si corro: >>> import math >>> print(math.pi) 3.141592653589793Luego pi se imprime con 16 dígitos, Sin embargo, de acuerdo con: >>> import sys >>> sys.float_info.dig 15Mi precisión es de 15 dígitos. Entonces, ¿debo confiar en el último dígito ...
"GL_HALF_FLOAT" con renderizado OpenGL y GLSL
Estoy programando un renderizador OpenGL en C ++. Quiero que sea lo más eficiente posible y que cada vértice / normal / coord de texto UV / tangentes / etc. ocupe la menor cantidad de memoria posible. Estoy usando índices, franjas de línea y ...
¿Cómo se propaga el error de coma flotante cuando se realizan operaciones matemáticas en C ++?
Digamos que hemos declarado las siguientes variables float a = 1.2291; float b = 3.99; float las variables tienen precisión 6, lo que (si lo entiendo correctamente) significa que la diferencia entre el número que la computadora ...
los números simples de punto flotante pierden precisión
Estoy usando Delphi XE2 Update 3. Hay problemas de precisión incluso con los números de coma flotante más simples (como3.7) Dado este código (una aplicación de consola de 32 bits): program Project1; {$APPTYPE CONSOLE} {$R *.res} uses ...
¿Cuál es el sufijo de C ++ para dobles literales largos?
En C ++ (y C), un literal de coma flotante sin sufijo se establece de manera predeterminada
pow () parece estar fuera por uno aquí
Que está pasando aqui: