Resultados de la búsqueda a petición "precision"

4 la respuesta

Establecer precisión para un número flotante en PHP

Obtengo un número de la base de datos y este número puede ser

3 la respuesta

¿Cómo mantengo la precisión para un programa Fortran MPI de manera portátil?

Tengo un programa de Fortran donde especifico el

3 la respuesta

¿Por qué la salida de inv () y pinv () no es igual en Matlab y Octave?

2 la respuesta

Error aritmético de punto flotante

Estoy usando la siguiente función para aproximar la derivada de una función en un punto:

2 la respuesta

¿Se puede utilizar un cálculo pi de Monte Carlo para un récord mundial?

Tengo esta función aleatoria para calcular piEstilo monte carlo:

30 la respuesta

Resultados inesperados al trabajar con enteros muy grandes en lenguajes interpretados

3 la respuesta

¿Pérdida de precisión al sumar dobles?

amigos He encontrado un pequeño problema: estoy haciendo una suma simple con tres valores dobles. El resultado tiene una precisión menor que los valores util...

1 la respuesta

¿Es suficiente especificar el tipo de punto flotante para garantizar los mismos resultados?

3 la respuesta

¿Números de punto flotante de alta precisión en Haskell?

Sé que Haskell tiene tipos de datos nativos que te permiten tener enteros muy grandes, así que cosas como

1 la respuesta

Prueba de igualdad de punto flotante y precisión adicional: ¿puede fallar este código?

La discusión comenzó bajomi respuesta a otra pregunta. El siguiente código determinamáquina epsilon: