Resultados de la búsqueda a petición "floating-point"

2 la respuesta

Obtención de una respuesta incorrecta en doble aritmética en Java [duplicado]

6 la respuesta

Cómo imprimir un doble con una coma.

4 la respuesta

Aritmética de punto flotante en el script de shell de UNIX

1 la respuesta

Si bien 3 * 0.1 no se puede representar exactamente, ¿por qué Javascript puede calcular correctamente 0.15 * 2? [duplicar]

Posible duplicado:¿Está rota la matemática de punto flotante de JavaScript?En Javascript,

0 la respuesta

¿Por qué Microsoft no quiere arreglar las implementaciones erróneas de Equals y GetHashCode con NaN? [cerrado]

2 la respuesta

Manera eficiente de redondear números de precisión doble a una precisión más baja dada en número de bits

2 la respuesta

Encuentra el flotador justo debajo de un valor

2 la respuesta

Redondeo incorrecto del flotador cuando se usa ToString ("F1")

Tengo un valor flotante: 12345.6489Cuando formateo esto usando:(12345.6489f) .ToString ("F1")Entonces me sale un resultado de12345.7Pero esto es in...

1 la respuesta

Representación de bits de un número doble

Hice este programa, que funciona como se esperaba, para conocer la representación de bits de un flotador:

6 la respuesta

C # Math.Pow () está roto

Y no, esto no implica (a mi entender) problemas de división de enteros o redondeo de punto flotante.Mi código exacto es: