A precisão dos dígitos decimais mais significativos é que pode ser convertida em binária e de volta em decimal sem perda de significância 6 ou 7.225?
Encontrei duas fórmulas de precisão diferentes para números de ponto flutuante.
⌊ (N-1) log10(2) ⌋ = 6 dígitos decimais (Precisão única)
e
N log10(2) ≈ 7.225 dígitos decimais (Precisão única)
OndeN = 24 Bits significativos (Precisão única)
A primeira fórmula é encontrada na parte superior da página 4 de "Padrão IEEE 754 para aritmética binária de ponto flutuante" escrito por,Professor W. Kahan.
A segunda fórmula é encontrada no artigo da Wikipedia "Formato de ponto flutuante de precisão única"na seçãoFormato de ponto flutuante binário de precisão única IEEE 754: binary32.
Para a primeira fórmula, o professor W. Kahan diz
Se uma sequência decimal comno máximo 6 sig. dec. é convertido em Único e depois convertido de volta para o mesmo número de sig. dec., a sequência final deve corresponder ao original.
Para a segunda fórmula, a Wikipedia diz
... a precisão total é de 24 bits (equivalente ao log10(224) ≈7.225 dígitos decimais)
Os resultados de ambas as fórmulas (6 e 7.225 dígitos decimais) são diferentes, e eu esperava que fossem os mesmos, porque supus que ambos deveriam representar os dígitos decimais mais significativos que podem ser convertidos em binário de ponto flutuante e depois convertidos novamente para decimal com o mesmo número de dígitos decimais significativos com o qual começou.
Por que esses dois números diferem e qual é a precisão de dígitos decimais mais significativa que pode ser convertida em binária e de volta em decimal sem perda de significância?