Resultados da pesquisa a pedido "ieee-754"
Existe alguma maneira de ver um número em sua representação IEEE754 flutuante de 64 bits
Javascript armazena todos os números como valores IEEE 754 de precisão dupla no formato 64 bits, de acordo com oespecificação [http://www.ecma-international.org/publications/files/ECMA-ST/Ecma-262.pdf]: O tipo Number tem exatamente ...
Convertendo IEEE 754 do fluxo de bits em float em JavaScript
Eu serializei o número flutuante de 32 bits usando a função de idioma GO ( math.Float32bits [https://golang.org/pkg/math/#Float32bits]), que retorna o número do ponto flutuante correspondente à representação binária IEEE 754. Esse número é ...
Qual é o primeiro número inteiro que um flutuador IEEE 754 é incapaz de representar exatamente?
Para maior clareza, se estou usando uma linguagem que implementa flutuadores IEE 754 e declaro: float f0 = 0.f; float f1 = 1.f;... e depois imprimi-los, receberei 0,0000 e 1,0000 - exatamente. Mas o IEEE 754 não é capaz de representar todos os ...
Precisão de ponto flutuante IEEE-754: Quanto erro é permitido?
Estou trabalhando em portar osqrt (para duplos de 64 bits) defdlibm [http://www.netlib.org/fdlibm/]a uma ferramenta de verificador de modelos que estou usando no momento (cbmc [http://www.cprover.org/cbmc/]) Como parte de minhas atividades, li ...
Java - Converte hex para IEEE-754 float de 64 bits - precisão dupla
Estou tentando converter a seguinte sequência hexadecimal: "41630D54FFF68872" para 9988776.0 (float-64). Com um único flutuador de precisão 32, eu faria: int intBits = Long.valueOf("hexFloat32", 16).intValue(); float floatValue ...
Padrão para o seno de números muito grandes
Estou escrevendo uma implementação de ponto flutuante (quase) compatível com IEEE 854 no TeX (que suporta apenas números inteiros de 32 bits). Este padrão especifica apenas o resultado de+, -, *, /, comparação, restante esqrt: para essas ...
Precisão do dobro após o ponto decimal
Na hora do almoço começamos a debater sobre a precisão do
Comparação de pontos flutuantes revisitada
Este tópico surgiu muitas vezes no StackOverflow, mas acredito que este seja um novo take. Sim, eu liArtigos de Bruce Dawson eO que todo cientista da computa...