Resultados da pesquisa a pedido "precision"

2 a resposta

javascript rodada inteira grande porque precisão? (porque?

se você digitar 78764357878563812 no chrome ou no safari, obterá Se você fize for(var i = 0; i < 30; i++){console.log(i + " == " + 78764357878563800 + " ? ");console.log((78764357878563790+i) == 78764357878563800);} Você começa a comparar ...

3 a resposta

Como faço para manter a precisão de um programa Fortran MPI de maneira portátil?

2 a resposta

Erro Aritmético do Ponto Flutuante

7 a resposta

decimal vs duplo! - Qual deles devo usar e quando? [duplicado]

Esta questão já tem uma resposta aqui:Quando devo usar o dobro em vez do decimal? 12 respostasEu continuo vendo pessoas usando duplas em c #. Eu sei que eu l...

10 a resposta

Como gerar uma seqüência de n inteiros positivos aleatórios que somam algum valor?

1 a resposta

Especificar o tipo de ponto flutuante é suficiente para garantir os mesmos resultados?

1 a resposta

Como esses valores de precisão dupla são precisos com 20 decimais?

Estou testando alguns erros de equivalência muito simples quando a precisão é um problema e esperava executar as operações com precisão dupla estendida (para que eu soubesse qual seria a resposta em ~ 19 dígitos) e, em seguida, execute as mesmas ...

1 a resposta

Existe alguma biblioteca padrão para converter float64 em string com largura de correção com número máximo de dígitos significativos?

Imagine para imprimir em uma tabela de 12 larguras fixas que precisamos imprimirfloat64 números: fmt.Printf("%12.6g\n", 9.405090880450127e+119) //"9.40509e+119" fmt.Printf("%12.6g\n", 0.1234567890123) //" 0.123457" ...

2 a resposta

imprimir em duplicata com precisão 4 usando cout [duplicate]

Duplicata Possível:Converta um double em um ponto decimal fixo em C ++Suponha que eu tenha

4 a resposta

matlab ec diferem com a função cos

Tenho um programa implementado no matlab e o mesmo programa em c, e os resultados difere Estou um pouco confuso que a função cos não retorne exatamente o mesmo resultad Uso o mesmo computador, Intel Core 2 Duo e 8 bytes de tipo de dados duplo ...