Resultados de la búsqueda a petición "floating-point"

1 la respuesta

Golang convierte float64 en error int

¿Cómo puedo evitar errores de coma flotante al convertir float's a int's? Por ejemplo, se imprime el siguiente código:0.5499999999999972 cuando termine espero que se imprima0.55. package main import "fmt" func main() { x := 100.55 fmt.Println(x ...

4 la respuesta

Cómo rastrear un NaN en C ++

Voy a hacer algunos cálculos matemáticos usando C ++. El número de coma flotante de entrada es un número válido, pero después de los cálculos, el valor resultante es NaN. Me gustaría rastrear el punto donde aparece el valor de NaN (posiblemente ...

3 la respuesta

¿Por qué no podemos usar '==' para comparar dos números flotantes o dobles [duplicado]

Esta pregunta ya tiene una respuesta aquí: Prueba de igualdad de coma flotante. (FE_FLOATING_POINT_EQUALITY) [/questions/3832592/test-for-floating-point-equality-fe-floating-point-equality] 3 respuestas ¿Por qué Double.NaN == Double.NaN ...

4 la respuesta

división entera para resultado flotante [duplicado]

Esta pregunta ya tiene una respuesta aquí: Conversión de Fahrenheit a Celsius [/questions/13282301/fahrenheit-to-celsius-conversion] 3 respuestas Tengo que dividir dos enteros y obtener un flotante como resultado Mi código: Float ws; int i = ...

3 la respuesta

¿Por qué 5/2 da como resultado '2' incluso cuando uso un flotador? [duplicar

Esta pregunta ya tiene una respuesta aquí: Cuál es el comportamiento de la división de enteros? [/questions/3602827/what-is-the-behavior-of-integer-division] 5 respuestas Ingresé el siguiente código (y no tuve problemas de compilación ni ...

3 la respuesta

Java: ¿Por qué necesita especificar una 'f' en un literal flotante? [duplicar

Esta pregunta ya tiene una respuesta aquí: ¿por qué se coloca f después de los valores flotantes? [/questions/9748160/why-f-is-placed-after-float-values] 7 respuestas ¿Por qué necesita especificar un sufijof en un flotante literal?

4 la respuesta

Si el tipo doble puede manejar los números 4.35 y 435, ¿por qué 4.35 * 100 se evalúa como 434.99999999999994? [duplicar

Esta pregunta ya tiene una respuesta aquí: Las matemáticas de punto flotante están rota [/questions/588004/is-floating-point-math-broken] 28 respuestasRodidad extraña: ¿qué tiene de especial ...

1 la respuesta

¿Por qué mi flotador de 999999999 se convierte en 10000000000? [duplicar

Esta pregunta ya tiene una respuesta aquí: Las matemáticas de punto flotante están rota [/questions/588004/is-floating-point-math-broken] 28 respuestas ¿Por qué los números de coma flotante son ...

5 la respuesta

¿En qué segmento se encuentra un número dado? [duplicar

Esta pregunta ya tiene una respuesta aquí: Las matemáticas de punto flotante están rota [/questions/588004/is-floating-point-math-broken] 28 respuestasSupongamos tenern (entero) segmentos contiguos de longitudl (punto flotante). Es ...

9 la respuesta

PHP - Precisión de número flotante [duplicado]

Esta pregunta ya tiene una respuesta aquí: Las matemáticas de punto flotante están rota [/questions/588004/is-floating-point-math-broken] 28 respuestas$a = '35'; $b = '-34.99'; echo ($a + $b);Resultados en 0.009999999999998 ¿Qué pasa con eso? ...