Resultados da pesquisa a pedido "floating-point"
Como o infinito é representado em um C duplo?
Eu aprendi com o livroSistemas de computador: a perspectiva de um programador que o padrão IEEE exige que o número flutuante de precisão dupla seja representado usando o seguinte formato binário de 64 bits: s: 1 bit para sinalexp: 11 bits para ...
php calcular float
Eu tenho um cálculo matemático estranho aqui. Espero que alguém explique. $a = 1.85/100; $b = 1.5/100; $c = 1.1/100; $d = 0.4/100; $e = 0.4/100; $f = 0.4/100; $g = 0.4/100; $h = $a + $b + $c + $d + $e + $f + $g; echo $h*100 ."<br>"; $i = $h-$a; ...
Por que precisamos do restante do IEEE 754?
eu acabei de lerEste tópico [https://stackoverflow.com/questions/158120/math-ieeeremainder-returns-negative-results-why] (especialmente os últimos comentários). Então eu fiquei pensando, por que realmente precisamos disso é dar o restante. Mas ...
A maneira mais eficiente de implementar a função pow () em ponto flutuante
Estou tentando implementar minha própria versão das funções pow () e sqrt (), pois minha biblioteca personalizada não tem suporte a ponto flutuante pow () / sqrt (). Alguém pode ajudar?
Problema ao usar a função find no MATLAB
Eu tenho duas matrizes de dados que estou tentando juntar. Uma contém latências reais de uma experiência na primeira coluna (por exemplo, 0,345, 0,455 ... nunca mais que 3 casas decimais), juntamente com outros dados dessa experiência. A outra ...
Arredondando para n dígitos significativos
Estou tentando escrever um código no MATLAB que arredondará o número para determinados dígitos (como eu pergunto). Não sei bem como fazê-lo. Alguma sugestão?
O que causa perda significativa de precisão de FP ao compilar para 64 bits?
Plataforma: C # usando o Visual Studio 2013. Eu tinha um aplicativo do Windows em execução em uma CPU Haswell de 64 bits que estava funcionando corretamente com a opção "Prefer 32 bits" ativada. Decidi atualizar para "Preferir 64 bits" ...
Problema com a operação de ponto flutuante de precisão em C
Para um dos meus projetos de curso, comecei a implementar o "classificador Naive Bayesiano" em C. Meu projeto é implementar um aplicativo classificador de documentos (especialmente Spam) usando enormes dados de treinamento. Agora, tenho ...
Conversão não assinada de 64 bits para dupla: por que esse algoritmo de g ++
Usando g ++ 4.9.2 se eu compilar bool int_dbl_com(const unsigned long long x, const double y) { return x <= y; }a saída do assembler (para a convenção de chamada do Windows x64) é: testq %rcx, %rcx # x in RCX js .L2 pxor %xmm0, %xmm0 cvtsi2sdq ...
Soma de Kahan
Alguém já usou o somatório Kahan em um aplicativo? Quando a precisão extra seria útil? Ouvi dizer que em algumas plataformas as operações duplas são mais rápidas que as operações flutuantes. Como posso testar isso na minha máquina?