Resultados de la búsqueda a petición "floating-accuracy"
Promedio de inconsistencia de flotación
La selección vuelve a la derecha en 23,000 filas La excepción devolverá entre 60 y 200 filas (y no las mismas filas) La excepción debe devolver 0 ya que es seleccionar una excepto seleccionar una PK: [docSVenum1]. [EnumID], [docSVenum1]. ...
La función pow () de C según el archivo de encabezado <math.h> no funciona correctamente
Veo que para el siguiente código produce el resultado de la siguiente manera, ¿alguna idea de por qué la salida es así? #include <stdio.h> #include <math.h> int main() { int i = 0; for(i = 0; i < 10; i++) { printf("%d\t\t\t%d\t\t\t", i, ...
Computación eficiente (a - K) / (a + K) con precisión mejorada
En varios contextos, por ejemplo, para la reducción de argumentos para funciones matemáticas, uno necesita calcular(a - K) / (a + K), dóndea es un argumento variable positivo yK Es una constante. En muchos casos,K es una potencia de dos, que es ...
PHP - Precisión de número flotante [duplicado]
Esta pregunta ya tiene una respuesta aquí: Las matemáticas de punto flotante están rota [/questions/588004/is-floating-point-math-broken] 28 respuestas$a = '35'; $b = '-34.99'; echo ($a + $b);Resultados en 0.009999999999998 ¿Qué pasa con eso? ...
Tratar con precisión flotante en Javascript [duplicado]
Esta pregunta ya tiene una respuesta aquí: ¿Cómo lidiar con la precisión del número de coma flotante en JavaScript? [/questions/1458633/how-to-deal-with-floating-point-number-precision-in-javascript] 34 respuestas Tengo una gran cantidad de ...
¿Por qué una variable de tipo double tendría un resultado inesperado?
Mi comprobación de cordura falla porque una variable doble no contiene el resultado esperado, es realmente extraño. double a = 1117.54 + 8561.64 + 13197.37; double b = 22876.55; Console.WriteLine("{0} == {1}: {2}", a, b, a == b); Nos da esta ...
ruby: la conversión de flotante a entero en ruby produce resultados extraños
ree-1.8.7-2010.02 :003 > (10015.8*100.0).to_i => 1001579 ree-1.8.7-2010.02 :004 > 10015.8*100.0 => 1001580.0 ree-1.8.7-2010.02 :005 > 1001580.0.to_i => 1001580 ruby 1.8.7 produce lo mismo. ¿Alguien sabe cómo erradicar esta herejía? =)
medio de pandas y numpy difieren
Tengo una IMU de MEMS en la que he estado recopilando datos y estoy usando pandas para obtener algunos datos estadísticos. Hay 6 flotadores de 32 bits recopilados en cada ciclo. Las tasas de datos se fijan para una ejecución de recopilación ...
Precisión de punto flotante mientras se usa max () @ de Pyth
¿Porque >>> max(2, 2.01) 2.0099999999999998
Las matemáticas de punto flotante están rota
Considere el siguiente código: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 ¿Por qué ocurren estas imprecisiones?