Resultados de la búsqueda a petición "floating-point"

2 la respuesta

¿Hay alguna manera de asegurarse de que el resultado de la aritmética de punto flotante sea el mismo tanto en Linux como en Windows?

3 la respuesta

Cómo convertir exponenciales a decimales en PHP

Tengo una cuerda como esta:

9 la respuesta

Representación binaria de float en Python (bits no hex)

¿Cómo obtener la cadena como una representación binaria IEEE 754 de una flotación de 32 bits?Ejemplo1.00 -> '00111111100100000000000000000000000'

1 la respuesta

Tipo de dato no coincidente en fortran

He escrito un algoritmo rudimentario en Fortran 95 para calcular el gradiente de una función (un ejemplo de lo cual se prescribe en el código) utilizando dif...

5 la respuesta

¿Cuál es el rango inclusivo de float y double en Java?

¿Cuál es el rango inclusivo de float y double en Java?¿Por qué no se recomienda usar flotador o doble para cualquier cosa donde la precisión es fundamental?

2 la respuesta

¿Por qué el sprintf de Perl no redondea los números de punto flotante correctamente?

Estaba buscando la convención de redondeo utilizada por la función incorporada de Perl.sprintf.Estaba pensando que hace un redondeo normal (por ejemplo, ROUN...

3 la respuesta

¿Por qué falla la notación exponencial con valores decimales? [cerrado]

4 la respuesta

PHP convertir cadena en flotante / doble

Tengo una lista de cadenas (tamaño en bytes), las leo del archivo. Digamos que una de las cadenas es 2968789218, pero cuando la convierto para flotar se conv...

6 la respuesta

¿Cómo puedo convertir un número de coma flotante en la fracción más cercana representada por un numerador y denominador de bytes?

¿Cómo puedo escribir un algoritmo que, dado un número de punto flotante, y los intentos de representación sea lo más preciso posible utilizando un numerador ...

3 la respuesta

Cómo convertir un flotador a un int en C ++ moderno

Por extraño que parezca, no puedo encontrar una forma limpia de convertir un