Resultados de la búsqueda a petición "floating-point-precision"
comparación doble y flotante [duplicado]
Esta pregunta ya tiene una respuesta aquí:Comparando float y doble 3 respuestasDe acuerdo aesta publicación, al comparar un flotador y un doble, el flotador ...
¿Sizeof largo doble y precisión no coinciden?
Considere el siguiente código C:
pow () parece estar fuera por uno aquí
Que está pasando aqui:
¿Cuál es el sufijo de C ++ para dobles literales largos?
En C ++ (y C), un literal de coma flotante sin sufijo se establece de manera predeterminada
los números simples de punto flotante pierden precisión
Estoy usando Delphi XE2 Update 3. Hay problemas de precisión incluso con los números de coma flotante más simples (como3.7) Dado este código (una aplicación de consola de 32 bits): program Project1; {$APPTYPE CONSOLE} {$R *.res} uses ...
¿Cómo se propaga el error de coma flotante cuando se realizan operaciones matemáticas en C ++?
Digamos que hemos declarado las siguientes variables float a = 1.2291; float b = 3.99; float las variables tienen precisión 6, lo que (si lo entiendo correctamente) significa que la diferencia entre el número que la computadora ...