Resultados de la búsqueda a petición "floating-point"

2 la respuesta

c # agregar números flotantes se comporta de forma extraña [duplicado]

Esta pregunta ya tiene una respuesta aquí:¿Alguien puede explicarme esta rareza de punto flotante? 3 respuestasEstoy intentando agregar celdas de una fila y ...

6 la respuesta

¿Cómo incrementar el número en 0.01 en javascript usando un bucle?

7 la respuesta

0.1 flotador es mayor que 0.1 doble. Esperaba que fuera falso [duplicado]

2 la respuesta

Reorganizar una ecuación

3 la respuesta

C ++ "Enumeración de punto flotante"

Estoy buscando una solución que use el estándar C ++ 03 (estoy limitado a usar esta versión del estándar por varios años). Las soluciones para C ++ 11 tambié...

1 la respuesta

¿Cómo evitar errores de punto flotante?

2 la respuesta

Compilando * .vhdl en una biblioteca, usando Altera Quartus II

Estoy tratando de usar 'Paquete de punto flotante y punto fijo' como parte de mi diseño de filtro en VHDL. Estoy utilizando Altera Quartus II como en...

3 la respuesta

Implementando la división de precisión simple como multiplicación de precisión doble.

PreguntaPara un compilador C99 que implementa aritmética IEEE 754 exacta, haga valores de

14 la respuesta

Python JSON serializa un objeto decimal

tengo un

6 la respuesta

Almacenando datos estadísticos, ¿necesito DECIMAL, FLOTACIÓN o DOBLE?

Estoy creando para la diversión, pero todavía quiero enfocarlo seriamente, un sitio que alberga varias pruebas. Con estas pruebas espero recoger datos estadí...