Quão grande é a perda de precisão convertendo por muito tempo em dobro?
Eu li em postagens diferentes no stackoverflow e na documentação do C #, que convertendolong
(ou qualquer outro tipo de dado que represente um número) paradouble
perde precisão. Isso é bastante óbvio devido à representação de números de ponto flutuante.
Minha pergunta é: qual é o tamanho da perda de precisão se eu converter um número maior emdouble
? Preciso esperar diferenças maiores que +/- X?
A razão pela qual gostaria de saber isso é que tenho que lidar com um contador contínuo, que é umlong
. Este valor é lido pelo meu aplicativo comostring
, precisa ser convertido e dividido por e. 10 ou algum outro número pequeno e é processado posteriormente.
Seriadecimal
ser mais apropriado para esta tarefa?