Resultados de la búsqueda a petición "floating-point"
¿Por qué necesitamos el resto IEEE 754?
acabo de leereste tema [https://stackoverflow.com/questions/158120/math-ieeeremainder-returns-negative-results-why] (especialmente los últimos comentarios). Entonces me preguntaba, por qué realmente necesitamos esto era para dar el resto. Pero ...
¿Cómo se representa el infinito en un doble C?
Aprendi del libroSistemas informáticos: la perspectiva de un programador que el estándar IEEE requiere que se represente el número flotante de doble precisión utilizando el siguiente formato binario de 64 bits: s: 1 bit para firmarexp: 11 bits ...
Problema al usar la función de búsqueda en MATLAB
Tengo dos conjuntos de datos que estoy tratando de fusionar. Uno contiene latencias reales de un experimento en la primera columna (por ejemplo, 0.345, 0.455 ... nunca más de 3 decimales), junto con otros datos de ese experimento. El otro ...
Conversión de 64 bits a doble sin signo: por qué este algoritmo de g ++
Usando g ++ 4.9.2 si compilo bool int_dbl_com(const unsigned long long x, const double y) { return x <= y; } entonces la salida del ensamblador (para la convención de llamadas de Windows x64) es: testq %rcx, %rcx # x in RCX js .L2 pxor %xmm0, ...
¿Qué causa una pérdida significativa de precisión de FP al compilar para 64 bits?
Plataforma: C # con Visual Studio 2013. Tenía una aplicación de Windows ejecutándose en una CPU Haswell de 64 bits que funcionaba correctamente con "Prefiero 32 bits" habilitado. Decidí actualizarme a "Preferir 64 bits" desmarcando "Preferir 32 ...
Redondeando a n dígitos significativos
Estoy tratando de escribir código en MATLAB que redondeará el número a ciertos dígitos significativos (como pregunto). No estoy seguro de cómo hacerlo. ¿Alguna sugerencia?
Numpy float64 vs Python float
Estoy luchando contra algunos problemas de coma flotante en la función pandas read_csv. En mi investigación, encontré esto: In [15]: a = 5.9975 In [16]: a Out[16]: 5.9975 In [17]: np.float64(a) Out[17]: 5.9974999999999996¿Por qué está ...
El formato flotante de Django solo obtiene dígitos después del punto flotante
¿Existe un filtro de plantilla django para obtener solo dígitos después del punto flotante? Por ejemplo : 2.34 --> 34 2.00 --> 00 1.10 --> 10No he encontrado una respuesta ...
precisión de punto flotante en validaciones de modelos de ruby on rails
Estoy tratando de validar una cantidad en dólares usando una expresión regular:^[0-9]+\.[0-9]{2}$ Esto funciona bien, pero cada vez que un usuario envía el formulario y la cantidad en dólares termina en 0 (cero), el rubí (¿o los rieles?) Corta ...
Biblioteca de alta precisión Java de coma flotante [cerrada]
¿Qué bibliotecas para Java existen que tengan una implementación rápida para operaciones de punto flotante o punto fijo con una precisión de varios miles de dígitos? ¿Qué tan efectivos son? Un requisito para mí es que implemente un algoritmo de ...