Resultados de la búsqueda a petición "floating-point"
¿Se puede utilizar un cálculo pi de Monte Carlo para un récord mundial?
Tengo esta función aleatoria para calcular piEstilo monte carlo:
¿Math.Round (double, decimal) siempre devuelve resultados consistentes
Por supuesto, uno nunca debe comparar los valores de punto flotante que resultan de un cálculo para la igualdad, pero siempre use una pequeña tolerancia, por...
Desajuste de punto flotante entre compiladores (Visual Studio 2010 y GCC)
Estoy tratando de resolver un problema multiplataforma que está surgiendo y no estoy seguro de cómo hacerlo. Aquí hay un programa de demostración:
El entero más grande que se puede almacenar en un doble
¿Cuál es el mayor entero "no flotante" que se puede almacenar en un tipo doble IEEE 754 sin perder precisión?
La aritmética larga y desagradable de Numpy no parece estar en doble tiempo con la conversión
He estado jugando C99'squad precision doble largo Tengo entendido que (específico de la plataforma) soporta numpydoble largo y flotadores de 128 bits.Me ...
¿Por qué el número está dividido por cero infinito en Java?
¿Por qué debería el siguiente código en Java?