Resultados da pesquisa a pedido "floating-point"
Por que Math.round (0.49999999999999994) retorna 1?
No programa a seguir, você pode ver que cada valor um pouco menor que.5 é arredondado para baixo, exceto0.5. for (int i = 10; i >= 0; i--) { long l = Double.doubleToLongBits(i + 0.5); double x; do { x = Double.longBitsToDouble(l); ...
Python - número de dígitos no expoente
É possível definir o número de dígitos a serem usados para imprimir o expoente de um número de ponto flutuante? Eu quero configurá-lo para 3. Atualmente, f = 0.0000870927939438012 >>> "%.14e"%f '8.70927939438012e-05' >>> ...
Modelo de custo x86 moderno
Estou escrevendo um compilador JIT com um back-end x86 e aprendendo o montador x86 e o código da máquina enquanto vou. Eu usei o ARM assembler há cerca de 20 anos e estou surpreso com a diferença nos modelos de custo entre essas arquitetura ...