Resultados de la búsqueda a petición "floating-accuracy"
Problemas con lugares decimales con flotantes y decimales.
Parece que estoy perdiendo mucha precisión con las carrozas. Por ejemplo, necesito resolver una matriz: 4.0x -2.0y 1.0z =11.0 1.0x +5.0y -3.0z =-6.0 2.0x +2.0y +5.0z =7.0Este es el código que uso para importar la matriz desde un archivo de ...
Manipulando y comparando puntos flotantes en java
En Java, la aritmética de coma flotante no se representa con precisión. Por ejemplo este código java: float a = 1.2; float b= 3.0; float c = a * b; if(c == 3.6){ System.out.println("c is 3.6"); } else { System.out.println("c is not 3.6"); ...
Precisión de coma flotante C ++ [duplicado]
Posible duplicado: Ejemplos de inexactitud de punto flotante [https://stackoverflow.com/questions/2100490/floating-point-inaccuracy-examples] double a = 0.3; std::cout.precision(20); std::cout << a << ...
Implementación del algoritmo Payne Hanek en C
Me cuesta entender cómo IMPLEMENTAR el algoritmo de reducción de rango publicado por Payne y Hanek (reducción de rango para funciones trigonométricas) He visto que hay esta ...
¿Cuál es la solución estándar en JavaScript para manejar números grandes (BigNum)? [cerrado]
¿Hay una biblioteca bignum para JavaScript o incorporada que pueda incluir como <script type="text/javascript" src="the_bignum_library.js"></script>? Creo que mis usuarios preferirían ingresar números en una página web y esperar 7 segundos para ...
Truncar (no redondear) números decimales en javascript
Estoy tratando de truncar números decimales a lugares decimales. Algo como esto: 5.467 -> 5.46 985.943 -> 985.94toFixed(2) hace casi lo correcto pero completa el valor. No necesito el valor redondeado. Espero que esto sea posible en javascript.
Obtener la parte decimal de un doble en Swift
Estoy tratando de separar las partes decimal y entera de un doble en swift. He intentado varios enfoques, pero todos se encuentran con el mismo problema ... let x:Double = 1234.5678 let n1:Double = x % 1.0 // n1 = 0.567800000000034 let n2:Double ...
Precisión C ++: cadena a doble
Tengo un problema con la precisión de un doble después de realizar algunas operaciones en una cadena convertida a doble. #include <iostream> #include <sstream> #include <math.h> using namespace std; // conversion function void convert(const char ...
¿(Int) pow (n, m) estará mal para algunos enteros positivos n, m?
Asumiendon ym son enteros positivos ynm está dentro del rango de un número entero, will(int)pow(n,m) ¿Alguna vez has dado una respuesta incorrecta? He intentado muchosn param=2 y no he recibido ninguna respuesta incorrecta hasta ahora.
¿Cuál es exactamente el parámetro de "resolución" de flotador numpy
Estoy buscando un poco más de comprensión sobre el parámetro de "resolución" de un flotador numpy (supongo que cualquier flotador definido por computadora para el caso). Considere el siguiente script: import numpy as np a = np.finfo(10.1) print ...