Resultados de la búsqueda a petición "floating-point"
La impresión flota con un número específico de ceros
Sé cómo controlar el número de decimales, pero ¿cómo controlo específicamente el número de ceros? Por ejemplo 104.06250000 -> 104.0625 119.00000 -> 119.0 72.000000 -> 72.0
¿Qué sucede cuando no es lógico un flotador?
Supongo que esto solo devuelve un int. ¿Hay algo más que deba tener en cuenta? C / C ++ diferencias? float a = 2.5; !a; // What does this return? Int? Float?
coma flotante de precisión doble-doble como la suma de dos dobles
Siguiendopapers y código fuente para aritmética doble-doble [http://en.wikipedia.org/wiki/Quadruple-precision_floating-point_format#Double-double_arithmetic] por algún tiempo, todavía no puedo descubrir cómo exactamente un dd_real (definido ...
¿Por qué Math.round (0.49999999999999994) devuelve 1?
En el siguiente programa puede ver que cada valor es ligeramente menor que.5 se redondea hacia abajo, excepto0.5. for (int i = 10; i >= 0; i--) { long l = Double.doubleToLongBits(i + 0.5); double x; do { x = Double.longBitsToDouble(l); ...
Python - número de dígitos en exponente
¿Es posible establecer el número de dígitos que se utilizarán para imprimir el exponente de un número de coma flotante? Quiero establecerlo en 3. Actualmente f = 0.0000870927939438012 >>> "%.14e"%f '8.70927939438012e-05' >>> ...
Modelo de costo x86 moderno
Estoy escribiendo un compilador JIT con un backend x86 y aprendiendo el ensamblador x86 y el código de la máquina a medida que avanzo. Utilicé el ensamblador ARM hace unos 20 años y me sorprende la diferencia en los modelos de costo entre estas ...