Resultados de la búsqueda a petición "double-precision"
¿JavaScript tiene doble precisión de número de coma flotante?
Sé que es una pregunta extraña, pero ¿JavaScript tiene la capacidad de funcionar con flotantes dobles en lugar de flotantes individuales? (Flotantes de 64 bits frente a 32 bits).
Java Los dobles no son buenos en matemáticas [cerrado]
Actualmente estoy escribiendo un programa de calculadora en Java. Es mi primer programa Java, estoy acostumbrado a c ++. He notado que los dobles en java no son como los dobles en c ++. intente esto en java y c ++ 4.1 * 3 that / .1 debería ...
Ayuda en adición de doble precisión
Estaba probando parte de mi código, en javascript agregué .1 + .2 y me da .30000000000000004 en lugar de .3. No entiendo esto Pero cuando agregué .1 + .3 me da .4. Lo busqué en Google y encuentro algo sobre la adición de doble precisión. Pero no ...
¿Exactitud de la multiplicación de doble precisión en Java?
Cuál es la precisión garantizada del operador de multiplicación para valores dobles en Java? Por ejemplo, 2.2 * 100 es 220.00000000000003, pero 220 es un número doble. 220.00000000000003 es el siguiente doble después de 220.
C ++ escribir y leer dobles desde un archivo binario
Quiero realizar operaciones de E / S de disco para un programa que requiere demasiada RAM. Utilizo matrices de dobles y creo que escribirlas en el disco como bytes es la forma más rápida (necesito preservar la precisión doble). ¿Cómo hacerlo ...
Página 2 de 2