Resultados de la búsqueda a petición "floating-point-precision"
Salida extraña cuando se usa flotador en lugar de doble
Salida extraña cuando usofloat en lugar dedouble #include <stdio.h> void main() { double p,p1,cost,cost1=30; for (p = 0.1; p < 10;p=p+0.1) { cost = 30-6*p+p*p; if (cost<cost1) { cost1=cost; p1=p; } else { break; } printf("%lf\t%lf\n",p,cost); } ...
La conversión de Int a Float pierde precisión para grandes números en Swift
XCode 6.3.1 Swift 1.2 let value: Int = 220904525 let intmax = Int.max let float = Float(value) // Here is an error probably let intFromFloat = Int(float) let double = Double(value) println("intmax=\(intmax) value=\(value) ...
Java: máxima pérdida de precisión en una doble suma / resta
¿Es posible establecer, incluso de manera aproximada, cuál sería la pérdida de precisión máxima al tratar con dos?
¿Cuál es el sufijo de C ++ para dobles literales largos?
En C ++ (y C), un literal de coma flotante sin sufijo se establece de manera predeterminada
¿Es la precisión de dígitos decimales más significativa que se puede convertir a binario y volver a decimal sin pérdida de significación 6 o 7.225?
Me he encontrado con dos fórmulas de precisión diferentes para números de punto flotante. ⌊ (N-1) registro10(2) ⌋ = 6 dígitos decimales(Precisión simple) y N log10(2) ≈ 7.225 dígitos decimales(Precisión simple) DóndeN = 24Bits significativos ...
Python: Encuentre el índice del elemento mínimo en la lista de flotantes [duplicar]
Esta pregunta ya tiene una respuesta aquí:Obtención del índice del artículo máximo o mínimo devuelto utilizando max () / min () en una lista 21 respuestas¿Có...
comparación doble y flotante [duplicado]
Esta pregunta ya tiene una respuesta aquí:Comparando float y doble 3 respuestasDe acuerdo aesta publicación, al comparar un flotador y un doble, el flotador ...
¿Sizeof largo doble y precisión no coinciden?
Considere el siguiente código C: