Resultados da pesquisa a pedido "double-precision"
A aritmética de ponto flutuante é muito confiável
Entendo que a aritmética de ponto flutuante, como é executada nos sistemas modernos de computadores, nem sempre é consistente com a aritmética real. Estou tentando criar um pequeno programa C # para demonstrar isso. por exemplo: static void ...
Como você arredonda um dobro no Dart para um determinado grau de precisão APÓS o ponto decimal?
Dado um dobro, quero arredondá-lo para um determinado número de pontos de precisãoapós o ponto decimal, semelhante à função round () do PHP. A coisa mais próxima que posso encontrar nos documentos do Dart é double.toStringAsPrecision (), mas ...
novo BigDecimal (duplo) vs novo BigDecimal (String) [duplicado]
Esta pergunta já tem uma resposta aqui: BigDecimal de Double valor incorreto? [/questions/3693014/bigdecimal-from-double-incorrect-value] 3 respostasConverta o dobro para BigDecimal e defina BigDecimal ...
O JavaScript tem precisão de número de ponto flutuante duplo?
Eu sei que é uma pergunta estranha, mas o JavaScript tem a capacidade de trabalhar com double's em vez de single floats? (Flutuadores de 64 bits vs. 32 bits.)
Java Doubles não são bons em matemática [fechado]
Atualmente, estou escrevendo um programa de calculadora em java. É o meu primeiro programa java, estou acostumado a c ++. Notei que duplas em java não são como duplas em c ++. tente isso em java ec ++ 4,1 * 3 that / .1 deveria se 12.3 então ...
Ajuda na adição de precisão dupla
I estava testando parte do meu código, em javascript eu adicionei .1 + .2 e isso me dá .30000000000000004 em vez de .3. Eu não entendo isso. Mas quando adicionei .1 + .3, obtive-me .4. Eu pesquisei no Google e encontrei algo sobre a adição ...
recisão da multiplicação de precisão dupla em jav
Qual é a precisão garantida do operador de multiplicação para valores duplos em java? Por exemplo, 2.2 * 100 é 220.00000000000003, mas 220 é um número duplo. 220.00000000000003 é o próximo dobro após 220.
screver e ler em C ++ dobra de um arquivo binár
Quero executar operações de E / S de disco para um programa que consome muita RAM. Uso matrizes de dobros e acho que gravá-las em disco como bytes é a maneira mais rápida (preciso preservar a precisão dupla Como fazer isso com portabilidade? ...
Página 2 do 2