Resultados de la búsqueda a petición "floating-point"
¿Cómo determina JavaScript el número de dígitos a producir al formatear valores de punto flotante?
En JavaScript, todos conocen el famoso cálculo:0.1 + 0.2 = 0.30000000000000004. Pero, ¿por qué JavaScript imprime este valor en lugar de imprimir el más preciso y preciso?0.300000000000000044408920985006?
¿Puede C evaluar con múltiples formatos de punto flotante?
C 2011 [N1570] 5.2.4.2.2 9 dice: Excepto para asignación y conversión ..., los valores producidos por operadores con operandos flotantes y valores sujetos a las conversiones aritméticas habituales y de constantes flotantes se evalúan en un ...
¿Por qué MATLAB eliminó mis decimales?
Digamos que creo un númeroA, De la orden10^4: A = 81472.368639; disp(A) 8.1472e+04Eso no era lo que quería. ¿Dónde están mis decimales? Debería haber seis decimales más. Verificar el editor de variables me muestra esto: ...
¿Por qué 0.1 + 0.4 = 0.5?
Lo sabemosel punto flotante está roto [https://stackoverflow.com/questions/588004/is-floating-point-math-broken], porque los números decimales no siempre se pueden representar perfectamente en binario. Se redondean a un número quepuede estar ...
std :: stod arroja el error out_of_range para una cadena que debería ser válida
#include <iostream> #include <cmath> #include <sstream> using namespace std; int main(){ stringstream ss; double ad = 7.63918e-313; ss << ad; cout<<ss.str()<<endl; //you will see that the above double is valid, and maps to the specified string ...
Los pandas leen el archivo csv con resultados de valores flotantes en redondeos extraños y dígitos decimales
Tengo un archivo csv que contiene valores numéricos como1524.449677. Siempre hay exactamente 6 decimales. Cuando importo el archivo csv (y otras columnas) a través de pandasread_csv, la columna obtiene automáticamente el tipo de datosobject. Mi ...
Convertir flotante a cadena hexadecimal de 32 bits en JavaScript
Tengo un valor flotante que representa las coordenadas gps y me gustó convertirlo a una cadena hexadecimal de 32 bits. Probé todas las soluciones ...
Comparar valores de coma flotante convertidos de cadenas con literales
Este no es un duplicado del famoso¿Se han roto las matemáticas de coma flotante? [https://stackoverflow.com/questions/588004/is-floating-point-math-broken], incluso si parece uno a primera vista. Estoy leyendo undouble desde un archivo de texto ...
Punto flotante y menos que igual después de sumar y restar
¿Existe una "mejor práctica" de comparaciones menos que iguales con el número de coma flotante después de una serie de operaciones aritméticas de coma flotante? Tengo el siguiente ejemplo en R, aunque la pregunta no solo se aplica a R, sino a ...
TypeError en cálculos con valores ingresados por el usuario
Me doy cuenta de que esto ha sido respondido, pero soy un super novato. Sé que tiene que ver con que hombre / mujer sea una cadena, pero pensé que lo tenía definido. ¿Cómo puedo hacer que el cálculo funcione? num = int(input('Please enter number ...