Resultados da pesquisa a pedido "precision"
formatação decimal sem arredondar .net
Ontem eu pergunteiesta questão geral sobre decimais e suas precisões internas. Aqui está uma pergunta específica sobre o cenário que estou tentando abordar.E...
GNU Octave, arredondando um número para a precisão das unidades
No GNU Octave versão 3.4.3 eu quero arredondar uma matriz para 2 unidades de precisão no conteúdo de uma matriz como esta.
Como usar e verificar a precisão quad no gfortran?
Eu estou tentando usar precisão quad no gfortran, mas parece que o
decimal vs duplo! - Qual deles devo usar e quando? [duplicado]
Esta questão já tem uma resposta aqui:Quando devo usar o dobro em vez do decimal? 12 respostasEu continuo vendo pessoas usando duplas em c #. Eu sei que eu l...
Biblioteca do .NET Framework para precisão de dígitos arbitrários
Estou revivendo esta questão e tornando-a mais específica: Existe uma biblioteca de estrutura .NET que suporta números com dígitos arbitrários de precisão?
Problema ao agendar tarefas usando a função clock ()
Eu gostaria de agendar tarefas em intervalos de tempo diferentes: a 0.1 seg, 0.9s .... 2s etc eu uso o clock () função C ++ que retorna o número de ticks des...
O que é c printf% f default precision?
Estou curioso:Se você fizer um
Como você arredonda vagas decimais em C ++?
Preciso de ajuda para arredondar um valor flutuante para uma casa decimal.eu sei
Por que 'Infinito' não é permitido nos carros alegóricos de Erlang?
Erlang (e por extensão Elixir) suporta números de ponto flutuante. Alguns carros alegóricos possíveis: 1.23451.0e101.0e-42Erlang suporta NaN (nan. em Erlang) (ainda estou para descobrir um método que geranan próprio). No entanto, Erlang não ...
Exibindo a saída de uma variável para mais de duas casas decimais
Estou tentando exibir a saída da minha adição para mais de duas casas decimais.