Resultados da pesquisa a pedido "floating-point"
Quando o underflow ocorre?
Eu entro numa situação em que calcular1.77e-308/10 aciona uma exceção de underflow, mas calcula1.777e-308/10 não. Isso é estranho porque: O subfluxo ocorre quando o resultado real de uma operação de ponto flutuante é menor em magnitude (ou seja, ...
Posso usar as unidades AVX FMA para fazer multiplicações inteiras de 52 bits com precisão exata?
O AXV2 não possui multiplicações de número inteiro com fontes maiores que 32 bits. Oferece32 x 32 -> 32 [http://www.felixcloutier.com/x86/PMULLD.html] multiplica, bem como32 x 32 -> 64 [http://www.felixcloutier.com/x86/PMULDQ.html] $432 x 32 -> ...
bits flutuantes e aliasing estrito
Estou tentando extrair os bits de um flutuador sem invocar um comportamento indefinido. Aqui está minha primeira tentativa: unsigned foo(float x) { unsigned* u = (unsigned*)&x; return *u; }Pelo que entendi, isso não garante que funcione devido a ...
Problema com carros alegóricos! (em PHP)
O que há de errado com php floats? $v = 5.2 * 3; if($v==15.6) { echo 'Everything is fine =)'; } else { echo 'Okay something is wrong :S'; var_dump($v); // float 15.6 }Confira também: $v = 5.2 * 3; if($v>15.6 AND $v<15.60000000001) { echo 'We ...
Por que o C # permite dividir um número diferente de zero por zero no tipo de ponto flutuante?
Por que o C # permite: 1.0 / 0 // InfinityE não permite: 1 / 0 // Division by constant zero [Compile time error]Matematicamente, existem diferenças entre números inteiros e de ponto flutuante na divisão por zero?
Precisão de números de ponto flutuante
Qual precisão são os números de ponto flutuante no Python? É sempre de precisão dupla ou é específica de implementação ou plataforma? Diferem, digamos, em CPython e PyPy?
Por que [float.MaxValue == float.MaxValue + 1] retorna true?
Gostaria de saber se você poderia explicar o estouro em tipos de ponto flutuante. float.MaxValue == float.MaxValue + 1 // returns true
Implementação de sinpi () e cospi () usando a biblioteca matemática C padrão
A funçãosinpi(x) calcula sin (πx) e a funçãocospi(x) calcula cos (πx), onde a multiplicação com π está implícita dentro das funções. Essas funções foram inicialmente introduzidas na biblioteca matemática padrão C como uma extensão da Sun ...
Como converter um número inteiro em um flutuador em JavaScript?
Eu tenho uminteiro (por exemplo.12) e quero convertê-lo em umnúmero de ponto flutuante, com um número especificado de casas decimais. Esboço, projeto function intToFloat(num, decimal) { [code goes here] } intToFloat(12, 1) // returns 12.0 ...
IEEE duplica de forma que sqrt (x * x) ≠ x
Existe um duplo IEEEx>0 de tal modo quesqrt(x*x) ≠ x, sob a condição de que o cálculox*x não transborda ou transborda paraInf, 0, ou um número denormal? Isto é dado quesqrt retorna o resultado representável mais próximo e o mesmo acontecex*x ...