Resultados de la búsqueda a petición "floating-point"
¿Cómo puedo probar el cero negativo?
Inicialmente penséMath.Sign sería la forma correcta de hacerlo, pero después de ejecutar una prueba parece que trata-0.0 y+0.0 lo mismo.
Punto flotante a valor binario (C ++)
Quiero tomar un número de coma flotante en C ++, como 2.25125, y una matriz int llena con el valor binario que se usa para almacenar el flotante en la memoria (IEEE 754). Entonces podría tomar un número y terminar con una matriz int num [16] con ...
C convierte el punto flotante a int
Estoy usandoC(no C ++). Necesito convertir un número flotante en unint. No quiero redondear al número más cercano, simplemente quiero eliminar lo que está después de la parte entera. Algo como 4.9 -> 4.9 -> 4
¿Por qué (360/24) / 60 = 0 ... en Java
Estoy tratando de calcular (360/24) / 60 Sigo recibiendo la respuesta 0.0 cuando debería obtener 0.25 En palabras: quiero dividir 360 por 24 y luego dividir el resultado por 60 public class Divide { public static void main(String[] args){ float ...
Ceros iniciales adicionales al imprimir flotante con printf?
Me gustaría poder escribir una cadena de tiempo que se vea así:1:04:02.1 hours usando printf. Cuando trato de escribir algo como esto: printf("%d:%02d:%02.1f hours\n", 1, 4, 2.123456);Yo obtengo: 1:04:2.1 hours¿Es posible agregar ceros ...
Comprender las variables de coma flotante
Hay algún problema, no puedo entender de todos modos. mira este código por favor <script type="text/javascript"> function math(x) { var y; y = x*10; alert(y); } </script> <input type="button" onclick="math(0.011)">¿Qué se debe alertar después ...
Representación textual exacta de un "doble" IEEE
Necesito representar un número de coma flotante doble (64 bits) IEEE 754-1985 en una forma textual legible por humanos, con la condición de que la forma textual pueda analizarse nuevamente enexactamente el mismo número (en cuanto a bits). ¿Es ...
Valores numéricos extremos en precisión de punto flotante en R
¿Alguien puede explicarme la siguiente salida? Sé que tiene algo que ver con la precisión de coma flotante, pero el orden de magnitud (diferencia 1e308) me sorprende. 0: alta precisión > 1e-324==0 [1] TRUE > 1e-323==0 [1] FALSE1: muy poco ...
Evitar valores denormales en C ++
Después de buscar durante mucho tiempo un error de rendimiento, leí sobre valores de coma flotante denormal. Aparentemente, los valores de punto flotante desnormalizados pueden ser un problema importante de rendimiento, como se ilustra en esta ...
Cómo verificar si un valor es un entero en Javascript (el caso especial 1.0 debe ser flotante)
Estoy escribiendo algunas funciones de verificación de tipo. Yo quiero: isIntegerisFloatMientras escribía isInteger, noté que isInteger (1.0) devuelve verdadero. Quiero que esto devuelva falso. Mi función es así: function isInteger(value) { ...