Resultados de la búsqueda a petición "floating-point"

1 la respuesta

Cómo verificar si el compilador de C ++ usa el estándar de coma flotante IEEE 754

Me gustaría hacer una pregunta que sigue aést [https://stackoverflow.com/questions/752309/ensuring-c-doubles-are-64-bits], que está bastante bien respondido por la verificación de definición si el compilador usa el estándar. Sin embargo, esto ...

7 la respuesta

Comprobando si float es un entero

¿Cómo puedo verificar si unfloat variable contiene un valor entero? Hasta ahora, he estado usando: float f = 4.5886; if (f-(int)f == 0) printf("yes\n"); else printf("no\n"); Pero me pregunto si hay una mejor solución, o si esta tiene alguna (o ...

3 la respuesta

Python array multiply

hh=[[82.5], [168.5]] N=1./5 ll=N*hh ¿Qué estoy haciendo mal? Recibí un error: "no se puede multiplicar la secuencia por no int del tipo 'float'" Intento agregar float (), pero esto no resuelve mi problema; Necesito multiplicar cada elemento ...

28 la respuesta

Las matemáticas de punto flotante están rota

Considere el siguiente código: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 ¿Por qué ocurren estas imprecisiones?

8 la respuesta

Tratar con problemas de precisión en números de coma flotante

e preguntaba si hay una manera de superar un problema de precisión que parece ser el resultado de la representación interna de mi máquina de números de punto flotante: Por razones de claridad, el problema se resume como: // str is "4.600"; ...

4 la respuesta

¿Cómo comparar correctamente los valores decimales en C #?

Vengo de un fondo en C ++, y sé que no puedes comparar con precisión flotantes para igualdad. Para C #, simplemente asumí que la misma política se aplica a los valores decimales, o cualquier valor de coma flotante en general. Básicamente, ...

6 la respuesta

¿Hay alguna buena moneda de JavaScript o clases decimales?

Estoy tratando con valores de JavaScript como 23.45, pero quiero poder realizar operaciones matemáticas en estos valores (suma, resta, multiplicación, división) sin encontrar problemas de coma flotante. Sí, puede que necesite redondear ...

3 la respuesta

Convertir flotante al doble pierde precisión pero no a través de ToString

Tengo el siguiente código float f = 0.3f; double d1 = System.Convert.ToDouble(f); double d2 = System.Convert.ToDouble(f.ToString());Los resultados son equivalentes a: d1 = 0.30000001192092896; d2 = 0.3; Tengo curiosidad por saber por qué esto ...

5 la respuesta

Javascript float restar

Me preguntaba cómo puedo restar dos números negativos de coma flotante en javascript. Lo intenté alert(-0.2-0.1);y el resultado es-0.30000000000000004. ¿Estoy haciendo algo mal? ¿Qué tengo que hacer para obtener-0.3 ?

2 la respuesta

¿Cómo obtener un número aleatorio entre un rango flotante?

randrange(start, stop) solo toma argumentos enteros. Entonces, ¿cómo obtendría un número aleatorio entre dos valores flotantes?