Resultados da pesquisa a pedido "floating-point"
Como o erro de ponto flutuante se propaga ao executar operações matemáticas em C ++?
Digamos que declaramos as seguintes variáveis float a = 1.2291; float b = 3.99; float variáveis têm precisão 6, o que (se bem entendi) significa que a diferença entre o número que o computador realmente armazena e o número real desejado ...
Transmitir para int vs floor
Existe alguma diferença entre estes: float foo1 = (int)(bar / 3.0); float foo2 = floor(bar / 3.0);Pelo que entendi, ambos os casos têm o mesmo resultado. Existe alguma diferença no código compilado?
C: converte duplo em flutuante, preservando a precisão do ponto decimal
Eu queria converter double para flutuar em C, mas queria preservar o ponto decimal da maneira mais exata possível, sem nenhuma alteração ... por exemplo, digamos que eu tenho double d = 0.1108; double dd = 639728.170000; double ddd = ...
Como executar com eficiência conversões duplas / int64 com SSE / AVX?
O SSE2 possui instruções para converter vetores entre flutuadores de precisão única e números inteiros de 32 bits. _mm_cvtps_epi32()_mm_cvtepi32_ps()Mas não há equivalentes para números inteiros de precisão dupla e 64 bits. Em outras palavras, ...
Adicionando a menor flutuação possível a uma flutuação
Eu quero adicionar o menor valor possível de um float para um float. Então, por exemplo, tentei fazer isso para obter 1,0 + o menor valor flutuante possível: float result = 1.0f + std::numeric_limits<float>::min();Mas depois de fazer isso, ...
Quando devo usar a palavra-chave "strictfp" em java?
Eu procurei o que isso faz, mas alguém realmente tem um exemplo de quando você usaria ostrictfp palavra-chave em Java? Alguém realmente encontrou um uso para isso? Haveria efeitos colaterais de colocá-lo em todas as minhas operações de ...
Biblioteca de ponto flutuante de precisão estendida C / C ++
Eu estou procurando uma biblioteca de ponto flutuante de precisão estendida com os seguintes recursos:tamanho de tipo de dados fixo (ou seja, a flutuação de ...
max float representado no IEEE 754
Eu estou querendo saber se o máximo float representado no IEEE 754 é:
Padrão IEEE-754 na GPU NVIDIA (sm_13)
Se eu executar uma operação flutuante (precisão simples) em um host e um dispositivo (arco de GPU sm_13), os valores serão diferentes?