Resultados de la búsqueda a petición "floating-point"
¿Cómo realizar eficientemente conversiones dobles / int64 con SSE / AVX?
SSE2 tiene instrucciones para convertir vectores entre flotantes de precisión simple y enteros de 32 bits. _mm_cvtps_epi32()_mm_cvtepi32_ps()Pero no hay equivalentes para enteros de doble precisión y de 64 bits. En otras palabras, ...
flotación / int conversión implícita
Estoy haciendo multiplicación y división defloats yintsy olvido las reglas de conversión implícitas (y las palabras en la pregunta parecen demasiado vagas para google más rápido que preguntar aquí). Si tengo dosints, pero quiero hacer una ...
Precisión de números de coma flotante
¿Qué precisión son los números de coma flotante en Python? ¿Es siempre de doble precisión o es una implementación o plataforma específica? ¿Difiere en, digamos, CPython y PyPy?
Imprimir representación binaria de un número flotante en C ++ [duplicado]
Posible duplicado: Flotar a binario en C ++ [https://stackoverflow.com/questions/2746380/float-to-binary-in-c] Quiero imprimir la representación binaria de un número flotante en C ++. No es muy práctico, solo por curiosidad. Sin embargo, el ...
¿Es seguro comparar un float y un int en Java?
¿Es seguro comparar un flotante y un entero como este? private static void foo(float n) { if (n >= 1 || n <= 0) { // code } }De acuerdo con laJLS (5.6.2. Promoción numérica ...
Almacenar entradas como flotadores
Supongamos que tengo una API que solo me permite almacenar flotadores o matrices de flotadores. Sin embargo, me gustaría estar almacenando valores enteros aquí. Entiendo (más o menos) que estoy bastante bien con un yeso directo de alrededor de 2 ...
IEEE doble tal que sqrt (x * x) ≠ x
¿Existe un doble IEEEx>0 tal quesqrt(x*x) ≠ x, bajo la condición de que el cálculox*x no se desborda o desborda aInf, 0o un número denormal? Esto es dado quesqrt devuelve el resultado representable más cercano, y también lo hacex*x (ambos según ...
El programa C no agrega flotante correctamente
Tengo un método que se ve así: float * mutate(float* organism){ int i; float sign = 1; static float newOrg[INPUTS] = {0}; for (i = 0;i<INPUTS;i++){ if (rand() % 2 == 0) { sign = 1; } else { sign = -1; } float temp = (organism[i] + sign); ...
Prueba de igualdad de coma flotante
¿Existe una función para probar la igualdad aproximada de coma flotante en Python? Algo como, def approx_equal(a, b, tol): return abs(a - b) < tolMi caso de uso es similar a cómo define la biblioteca de pruebas de C ++ de Google, ...
Especificación del comportamiento de coma flotante de Excel
Aunque Excel usa el formato estándar binario IEEE754, no usa las mismas reglas para aritmética y comparaciones, p. =0.1+0.2=0.3regresoTRUEyotro [https://stackoverflow.com/q/36452194/392585] ...