Resultados da pesquisa a pedido "floating-point"
Implementação eficiente do log2 (__ m256d) no AVX2
SVML's__m256d _mm256_log2_pd (__m256d a) não está disponível em outros compiladores além da Intel e eles afirmam que seu desempenho é prejudicial nos processadores AMD. Existem algumas implementações na internet mencionadas em Intrínsecas de log ...
duplo ou flutuador, o que é mais rápido? [duplicado]
Esta pergunta já tem uma resposta aqui: O uso do dobro é mais rápido que o float? [/questions/3426165/is-using-double-faster-than-float] 7 respostasEu estou lendo "C ++ acelerado". Eu encontrei uma frase que afirma "às vezesdouble é mais rápido ...
Impressão dupla sem perder precisão
Como você imprime um dobro em um fluxo para que, quando lido, não perca a precisão? Eu tentei: std::stringstream ss; double v = 0.1 * 0.1; ss << std::setprecision(std::numeric_limits<T>::digits10) << v << " "; double u; ss >> u; std::cout << ...
Como posso testar o zero negativo?
Inicialmente penseiMath.Sign seria o caminho certo a seguir, mas depois de executar um teste, parece que ele trata-0.0 e+0.0 o mesmo.
Ponto flutuante para valor binário (C ++)
Eu quero pegar um número de ponto flutuante em C ++, como 2.25125, e uma matriz int preenchida com o valor binário usado para armazenar o flutuador na memória (IEEE 754). Então, eu poderia pegar um número e terminar com uma matriz int num [16] ...
Como analisar float com duas casas decimais em javascript?
Eu tenho o seguinte código. Gostaria de tê-lo de tal forma que, se price_result for igual a um número inteiro, digamos 10, então eu gostaria de adicionar duas casas decimais. Então 10 seria 10,00. Ou, se for igual a 10,6, seria 10,60. Nao tenho ...
Erro de flutuação do PHP: o PHP trava no valor numérico
Acabei de ler um artigo interessante sobre php pendurado em certos números flutuantes, vejaO registro [http://www.theregister.co.uk/2011/01/04/weird_php_dos_vuln/]eExplorando ...
Como calcular a precisão Double + Float
Eu tenho tentado descobrir como calcular os números flutuantes / precisão dupla / intervalo -3.402823e38 .. 3.402823e38 e -1.79769313486232e308 .. 1.79769313486232e308. Para int32, você faria 2 ^ 32 = 4294967296/2 e obteria um intervalo ...
Por que 0.1 + 0.4 = 0.5?
Nós sabemos issoponto flutuante está quebrado [https://stackoverflow.com/questions/588004/is-floating-point-math-broken], porque os números decimais nem sempre podem ser perfeitamente representados em binário. Eles são arredondados para um número ...
flutuar para int comportamento inesperado
você pode explicar o comportamento operacional deste programa. int main() { float a = 12.5; printf("%d\n", a); printf("%d\n", *(int *)&a); return 0; }você pode verificar o código emhttp://codepad.org/AQRlAzkC [http://codepad.org/AQRlAzkC] por ...