Resultados de la búsqueda a petición "floating-point"

4 la respuesta

¿Existe algún riesgo de usar variables flotantes como contadores de bucle y su incremento / decremento fraccional para condiciones que no sean “==”?

2 la respuesta

Encuentra min / max de un float / double que tiene la misma representación interna

Refrescante enpuntos flotantes (ademásPDF), IEEE-754 y participando.en esta discusión sobre el redondeo de punto flotante al convertir a cadenas, me llevó a ...

4 la respuesta

¿Por qué agregar 0 al final del literal flotante cambia la forma en que se redondea (posible error de GCC)?

Descubrí en mi x86 VM (32 bits) que el siguiente programa:

7 la respuesta

Especificador de ancho de Printf para mantener la precisión del valor de punto flotante

Hay un

25 la respuesta

¿Cómo analizo una cadena en un flotante o int en Python?

En Python, ¿cómo puedo analizar una cadena numérica como"545.2222" a su valor flotante correspondiente,545.2222? O analizar la cadena"31" a un entero,31? Solo quiero saber cómo analizar unflotador str a unfloaty (por separado) unEn t str a unaint.

1 la respuesta

El controlador Microsoft ACE cambia la precisión del punto flotante en el resto de mi programa

Estoy teniendo un problema donde parece que los resultados de algunos cálculos cambian después de haber usado elDriver ACE de Microsoft para abrir una hoja d...

11 la respuesta

¿Cuál es la longitud máxima en caracteres necesaria para representar cualquier valor doble?

1 la respuesta

¿Es suficiente especificar el tipo de punto flotante para garantizar los mismos resultados?

1 la respuesta

Detalles de la implementación del hardware del divisor de punto flotante

¿Estoy tratando de implementar un divisor de hardware de punto flotante de 32 bits en el hardware y me pregunto si puedo obtener alguna sugerencia en cuanto ...

3 la respuesta

Error de cálculo de flotación de PHP al restar

Tengo un problema muy extraño. Si resto 2 variables flotantes donde una es el resultado de una operación matemática, obtengo un valor incorrecto.Ejemplo: