Resultados de la búsqueda a petición "precision"
Establecer precisión para un número flotante en PHP
Obtengo un número de la base de datos y este número puede ser
¿Cómo mantengo la precisión para un programa Fortran MPI de manera portátil?
Tengo un programa de Fortran donde especifico el
Error aritmético de punto flotante
Estoy usando la siguiente función para aproximar la derivada de una función en un punto:
¿Se puede utilizar un cálculo pi de Monte Carlo para un récord mundial?
Tengo esta función aleatoria para calcular piEstilo monte carlo:
¿Pérdida de precisión al sumar dobles?
amigos He encontrado un pequeño problema: estoy haciendo una suma simple con tres valores dobles. El resultado tiene una precisión menor que los valores util...
¿Números de punto flotante de alta precisión en Haskell?
Sé que Haskell tiene tipos de datos nativos que te permiten tener enteros muy grandes, así que cosas como
Prueba de igualdad de punto flotante y precisión adicional: ¿puede fallar este código?
La discusión comenzó bajomi respuesta a otra pregunta. El siguiente código determinamáquina epsilon: