Resultados de la búsqueda a petición "precision"
Error aritmético de punto flotante
Estoy usando la siguiente función para aproximar la derivada de una función en un punto:
¿Cómo mantengo la precisión para un programa Fortran MPI de manera portátil?
Tengo un programa de Fortran donde especifico el
Establecer precisión para un número flotante en PHP
Obtengo un número de la base de datos y este número puede ser
¿Hay alguna manera de obtener las "cifras significativas" de un decimal?
ActualizarDe acuerdo, después de un poco de investigación, y gracias en gran parte a las útiles respuestas proporcionadas por Jon y Hans, esto es lo que pude reunir. Hasta ahora creo que parece funcionar bien. No apostaría mi vida a su total ...
¿Por qué no se permite 'Infinito' en las carrozas de Erlang?
Erlang (y por extensión Elixir) admite números de punto flotante. Algunos flotadores posibles: 1.23451.0e101.0e-42Erlang admite NaN (nan. en Erlang) (Sin embargo, todavía estoy por descubrir un método que generenan sí mismo). Sin embargo, ...
¿Cuál es la precisión de los cálculos de coma flotante en Scilab?
Nota: He usado la etiqueta Matlab en caso de que mantengan la misma precisión. (Por lo que puedo decir, ambos programas son muy similares). Como seguimiento de una pregunta anterior mía ...
Precisión aritmética con dobles en Matlab
Tengo algunos problemas para entender cómo la precisión de estos dobles afecta el resultado de las operaciones aritméticas en Matlab. Pensé que, dado que tanto a & b son dobles, podrían realizar operaciones con esa precisión. Me doy cuenta de que ...