Resultados de la búsqueda a petición "double-precision"
¿Se implementa la multiplicación de enteros utilizando el punto flotante de precisión doble hasta 2 ^ 53?
Lo pregunto porque estoy calculando multiplicaciones de matrices donde todos los valores de la matriz son enteros.Me gustaría usar LAPACK para obtener un cód...
¿JavaScript tiene doble precisión de número de coma flotante?
Sé que es una pregunta extraña, pero ¿JavaScript tiene la capacidad de funcionar con flotantes dobles en lugar de flotantes individuales? (Flotantes de 64 bits frente a 32 bits).
nuevo BigDecimal (doble) vs nuevo BigDecimal (String) [duplicado]
Esta pregunta ya tiene una respuesta aquí: BigDecimal de valor doble incorrecto? [/questions/3693014/bigdecimal-from-double-incorrect-value] 3 respuestas Convierta el doble en BigDecimal y establezca la Precisión ...
¿Cómo redondeas un doble en Dart con un grado de precisión dado DESPUÉS del punto decimal?
Dado un doble, quiero redondearlo a un número dado de puntos de precisióndespués del punto decimal, similar a la función round () de PHP. Lo más parecido que puedo encontrar en los documentos de Dart es double.toStringAsPrecision (), pero esto ...
Precisión de punto flotante IEEE-754: ¿cuánto error está permitido?
Estoy trabajando en portar elsqrt función (para dobles de 64 bits) defdlibm [http://www.netlib.org/fdlibm/]a una herramienta de verificación de modelos que estoy usando en este momento (cbmc [http://www.cprover.org/cbmc/]) Como parte de mis ...
Java Los dobles no son buenos en matemáticas [cerrado]
Actualmente estoy escribiendo un programa de calculadora en Java. Es mi primer programa Java, estoy acostumbrado a c ++. He notado que los dobles en java no son como los dobles en c ++. intente esto en java y c ++ 4.1 * 3 that / .1 debería ...
Función de tipo de retorno no coincide
Estoy intentando recodificar un programa antiguo de C ++ en Fortran para hacer uso de LAPACK (soy consciente de que C ++ tiene LAPACK ++, pero tengo muchos p...
Comparación de valores dobles para la igualdad en Java.
Quisiera algunos consejos de personas que tienen más experiencia trabajando con primitivos.double igualdad en Java. Utilizandod1 == d2 para dos doblesd1 yd2 no es suficiente debido a posibles errores de redondeo. Mis preguntas son: Es de ...
Ayuda en adición de doble precisión
Estaba probando parte de mi código, en javascript agregué .1 + .2 y me da .30000000000000004 en lugar de .3. No entiendo esto Pero cuando agregué .1 + .3 me da .4. Lo busqué en Google y encuentro algo sobre la adición de doble precisión. Pero no ...
Página 1 de 2