Resultados da pesquisa a pedido "floating-point"
Precisão de ponto flutuante ao passar de i386 para x86_64
Eu tenho um aplicativo que foi desenvolvido para Linux x86 32 bits. Existem muitas operações de ponto flutuante e muitos testes, dependendo dos resultados. Agora estamos portando para x86_64, mas os resultados do teste são diferentes nessa ...
Crie carros alegóricos compactos / humanos, usando frações vulgares unicode
Existem módulos (de preferência na biblioteca padrão) que podem transformar um número flutuante em algo mais amigável ao ser humano? Talvez não seja mais amigável ao ser humano, mas pelo menos mais compacto. por exemplo. 4.625 se tornaria ...
O que exatamente é o parâmetro de “resolução” do numpy float
Estou buscando um pouco mais de entendimento sobre o parâmetro "resolution" de um float numpy (acho que qualquer float definido por computador para esse assunto). Considere o seguinte script: import numpy as np a = np.finfo(10.1) print aRecebo ...
Alterar o formato de impressão flutuante padrão
Eu tenho algumas listas e estruturas mais complexas contendo carros alegóricos. Ao imprimi-los, vejo os carros alegóricos com muitos dígitos decimais, mas, ao imprimir, não preciso de todos eles. Gostaria de definir um formato personalizado (por ...
A gravação IEEE 754-1985 é dupla como ASCII em uma sequência limitada de 16 bytes
Este é um acompanhamento para o meupostagem original [https://stackoverflow.com/questions/32629084/best-ieee-754-1985-representation-for-x3-9-1978-based-standard] . Mas vou repetir para maior clareza: Conforme o padrão DICOM, um tipo de ponto ...
O uso do epsilon da máquina é apropriado para testes de igualdade de ponto flutuante?
Este é um acompanhamento paraTeste de igualdade de valor de ponto flutuante: existe um nome padrão para a constante ...
Quão determinística é a imprecisão do ponto flutuante?
Entendo que os cálculos de ponto flutuante têm problemas de precisão e há muitas perguntas explicando o motivo. Minha pergunta é: se eu executar o mesmo cálculo duas vezes, posso sempre confiar nele para produzir o mesmo resultado? Que fatores ...
Devemos comparar números de ponto flutuante para igualdade contra um erro * relativo *?
Até agora, vi muitas postagens tratando da igualdade de números de ponto flutuante. A resposta padrão para uma pergunta como "como devemos decidir se x e y são iguais?" é abs(x - y) < epsilononde epsilon é umfixo, pequena constante. Isso ocorre ...
Truncar número decimal não arredondar [duplicado]
Possível duplicado: Como arredondar um valor decimal para 2 casas decimais (para saída em uma página) [https://stackoverflow.com/questions/164926/c-sharp-how-do-i-round-a-decimal-value-to-2-decimal-places-for-output-on-a-pa] Quero truncar os ...
Transmitir para int vs floor
Existe alguma diferença entre estes: float foo1 = (int)(bar / 3.0); float foo2 = floor(bar / 3.0);Pelo que entendi, ambos os casos têm o mesmo resultado. Existe alguma diferença no código compilado?