Resultados de la búsqueda a petición "floating-point"
Cómo convertir un flotador hexadecimal en un flotador en C / C ++ usando la función de inserción _mm_extract_ps SSE GCC
Estoy escribiendo un código SSE en convolución 2D, pero la documentación de SSE es muy escasa. Estoy calculando el producto de punto con _mm_dp_ps y usando _mm_extract_ps para obtener el resultado del producto de punto, pero _mm_extract_ps ...
Swift: ¿cómo eliminar un decimal de un flotador si el decimal es igual a 0?
Estoy mostrando una distancia con un decimal, y me gustaría eliminar este decimal en caso de que sea igual a 0 (ej .: 1200.0Km), ¿cómo podría hacerlo rápidamente? Estoy mostrando este número así: let distanceFloat: Float = (currentUser.distance! ...
float128 y aritmética doble-doble
He visto en Wikipedia que de alguna manera implementar precisión cuádruple es usar aritmética doble-doble incluso si no es exactamente la misma precisión en términos de ...
Flotadores que no se evalúan como negativos (Python)
Estoy tratando de eliminar valores de punto flotante en una lista que son negativos. La lista original con todos los valores se ve así: [ 0.030079979253112028, -0.006015995850622406, -0.08920269709543568, -25.72356846473029, -9.770807053941908, ...
¿Por qué MATLAB eliminó mis decimales?
Digamos que creo un númeroA, De la orden10^4: A = 81472.368639; disp(A) 8.1472e+04Eso no era lo que quería. ¿Dónde están mis decimales? Debería haber seis decimales más. Verificar el editor de variables me muestra esto: ...
Aproximación optimizada de baja precisión a `rootn (x, n)`
rootn (float_t x, int_t n) es una función que calcula eln-th raíz x1 / n y es compatible con algunos lenguajes de programación comoOpenCL [https://www.khronos.org/registry/cl/sdk/1.2/docs/man/xhtml/rootn.html]. Cuando se utilizan números de punto ...
Precisión C ++: cadena a doble
Tengo un problema con la precisión de un doble después de realizar algunas operaciones en una cadena convertida a doble. #include <iostream> #include <sstream> #include <math.h> using namespace std; // conversion function void convert(const char ...
Punto flotante doble extendido (80 bits) en x87, no SSE2: ¿no nos lo perdemos?
Estaba leyendo hoy sobreinvestigadores descubren que las bibliotecas Physidia de NVidia usan x87 FP vs. SSE2 [http://www.zdnet.com/blog/hardware/nvidia-de-optimizes-physx-for-the-cpu/8852?tag=nl.e539] . Obviamente, esto será subóptimo para ...
¿Cómo limitar un número decimal? [duplicar]
Posible duplicado: Cómo formatear un decimal [https://stackoverflow.com/questions/697977/how-to-format-a-decimal] ¿Cómo puedo limitar mi número decimal para obtener solo 3 dígitos después del punto? e.g 2.774
pandas: Dataframe.replace () con expresiones regulares
Tengo una mesa que se ve así: df_raw = pd.DataFrame(dict(A = pd.Series(['1.00','-1']), B = pd.Series(['1.0','-45.00','-']))) A B 0 1.00 1.0 1 -1 -45.00 2 NaN -Me gustaría reemplazar '-' a '0.00' usando dataframe.replace () pero tiene problemas ...