Resultados da pesquisa a pedido "floating-point"
Por que adicionar duas casas decimais em Javascript produz um resultado errado? [duplicado]
Possível duplicado: A matemática do JavaScript está quebrada? [https://stackoverflow.com/questions/588004/is-javascripts-math-broken] Por que JS estraga essa matemática simples? document.write(.1 + .2) // 0.3000000000000004 document.write(.3 + ...
Como representar 0.1 na aritmética e no ponto decimal de ponto flutuante
Estou tentando entender melhor a aritmética de ponto flutuante e vi alguns links para 'O que todo cientista da computação deve saber sobre aritmética de ponto flutuante'. Eu ainda não entendo como um número como0.1 ou0.5 é armazenado em ...
Objective-C - verificação de flutuador para nan
Eu tenho uma variável (float slope) que às vezes terá um valor de nan quando impresso, uma vez que uma divisão por 0 acontece. Estou tentando fazer um if-else para quando isso acontecer. Como eu posso fazer isso?if (slope == nan) parece não ...
Instruções SIMD para comparação de igualdade de ponto flutuante (com NaN == NaN)
Quais instruções seriam usadas para comparar dois vetores de 128 bits que consistem em valores de ponto flutuante de 4 * 32 bits? Existe uma instrução que considere igual o valor de NaN em ambos os lados? Caso contrário, qual o tamanho do ...
C: converte duplo em flutuante, preservando a precisão do ponto decimal
Eu queria converter double para flutuar em C, mas queria preservar o ponto decimal da maneira mais exata possível, sem nenhuma alteração ... por exemplo, digamos que eu tenho double d = 0.1108; double dd = 639728.170000; double ddd = ...
Numpy: verifique se a matriz flutuante contém números inteiros
No Python, é possível verificar se umfloat contém um valor inteiro usandon.is_integer(), com base neste controle de qualidade:Como verificar se um valor flutuante é um número ...
Quando devo usar a palavra-chave "strictfp" em java?
Eu procurei o que isso faz, mas alguém realmente tem um exemplo de quando você usaria ostrictfp palavra-chave em Java? Alguém realmente encontrou um uso para isso? Haveria efeitos colaterais de colocá-lo em todas as minhas operações de ...
Como quadruplicar um número não assinado usando operador lógico e bit a bit em C
Objetivo: 4x ( 4.400000095 ) = 17.60000038 Operações legais: qualquer operação inteira / não assinada, incl. ||, &&. também se, enquantoNúmero máximo de operações: 30Retorne o equivalente em nível de bit da expressão x + x + x + x ...
A maneira mais rápida de virar o sinal de um double / float em C
Qual é a maneira mais rápida de virar o sinal de um double (ou float) em C? Eu pensei que acessar o bit do sinal diretamente seria a maneira mais rápida e encontrei o seguinte: double a = 5.0; *(__int64*)&a |= 0x8000000000000000; // a = -5.0 ...
C # Maths dá resultados errados!
Entendo o princípio por trás desse problema, mas está me dando dor de cabeça pensar que isso está acontecendo em todo o meu aplicativo e preciso encontrar como solução. double Value = 141.1; double Discount = 25.0; double disc = Value * Discount ...