Resultados da pesquisa a pedido "significant-digits"
Extraia n bits diferentes de zero mais significativos do int em C ++ sem loops
Eu quero extrair os n bits mais significativos de um número inteiro em C ++ e converter esses n bits em um número inteir Por exempl int a=1200; // its binary representation within 32 bit word-size is // 00000000000000000000010010110000Agora ...
Existe uma maneira de obter os "números significativos" de um decimal?
AtualizarOK, depois de alguma investigação, e em grande parte graças às respostas úteis fornecidas por Jon e Hans, foi isso que consegui reunir. Até agora, acho que parece funcionar bem. Eu não apostaria minha vida em sua total correção, é ...
Arredondando para n dígitos significativos
Estou tentando escrever um código no MATLAB que arredondará o número para determinados dígitos (como eu pergunto). Não sei bem como fazê-lo. Alguma sugestão?
Como arredondar um float para um número especificado de dígitos significativos no Rub
Seria bom ter um equivalente a Significação de R [http://rss.acs.unt.edu/Rdoc/library/base/html/Round.html]unção em Rub Por exemplo >> (11.11).signif(1) 10 >> (22.22).signif(2) 22 >> (3.333).signif(2) 3.3 >> (4.4).signif(3) 4.4 # It's usually ...
A precisão dos dígitos decimais mais significativos é que pode ser convertida em binária e de volta em decimal sem perda de significância 6 ou 7.225?
Encontrei duas fórmulas de precisão diferentes para números de ponto flutuante. ⌊ (N-1) log10(2) ⌋ = 6 dígitos decimais(Precisão única) e N log10(2) ≈ 7.225 dígitos decimais(Precisão única) OndeN = 24Bits significativos (Precisão única) A ...
r mantendo 0,0 quando se usa pasta ou pasta0
Esta é uma pergunta simples, mas está começando a me irritar que eu não consigo encontrar uma solução ....Eu gostaria de poder manter o 0.0 quando usá-lo com...
Figuras significativas em C ++
Como posso fazer contas envolvendo números significativos em C ++? Quero que isso funcione corretamente com dados medidos de experimentos de química e física. Um exemplo: 65/5 = 10. Eu precisaria me livrar de casas decimais desnecessárias e ...
A precisão do ponto flutuante é mutável ou invariável?
Continuo recebendo respostas contraditórias sobre se os números de ponto flutuante (ou seja,float, doubleoulong double) têm um e apenas um valor de precisão ou um valor de precisão que pode variar. Um tópico chamadoflutuador vs. precisão ...
Página 1 do 2