Resultados da pesquisa a pedido "floating-point"
Otimizações CLR JIT violam causalidade?
Eu estava escrevendo um exemplo instrutivo para um colega para mostrar a ele por que testar carros alegóricos para igualdade geralmente é uma má idéia. O exemplo com o qual eu adicionei foi adicionando .1 dez vezes e comparando com 1,0 (o que foi ...
Algum CPU do mundo real não usa IEEE 754?
Estou otimizando uma função de classificação para uma biblioteca numérica / estatística com base no pressuposto de que, depois de filtrar qualquer NaNs e fazer um pouco de brincadeira, os flutuadores podem ser comparados como ints de 32 bits sem ...
C pode avaliar com vários formatos de ponto flutuante?
C 2011 [N1570] 5.2.4.2.2 9 diz: Exceto para atribuição e conversão…, os valores obtidos por operadores com operandos flutuantes e sujeitos às conversões aritméticas usuais e constantes constantes são avaliados para um formato cujo alcance e ...
Como verifico se um zero é positivo ou negativo?
É possível verificar se umfloat é um zero positivo (0,0) ou zero negativo (-0,0)? Eu converti ofloat para umString e verificou se o primeirochar é um'-', mas existem outras maneiras?
Lidando com erros de ponto flutuante no .NET
Estou trabalhando em um projeto de computação e visualização científica em C # /. NET e usamosdoubles para representar todas as quantidades físicas. Como os números de ponto flutuante sempre incluem um pouco de arredondamento, temos métodos ...
Como lidar com arredondamentos estranhos de carros alegóricos em PHP
Como todos sabemos, a aritmética de ponto flutuante nem sempre é totalmente precisa, mas como você lida com suas inconsistências? Como um exemplo, no PHP 5.2.9:(isso não acontece na versão 5.3) echo round(14.99225, 4); // 14.9923 echo ...
Diferença na aritmética de ponto flutuante entre x86 e x64
Eu me deparei com uma diferença na maneira como a aritmética de ponto flutuante é feita entre as compilações do MS VS 2010 para x86 e x64 (ambas executadas na mesma máquina de 64 bits). Este é um exemplo de código reduzido: float a = 50.0f; ...
C printf usando% de ef
Eu estava trabalhando nesse programa e notei que usar% f para um dobro e% d para um float me dá algo completamente diferente. Alguém sabe por que isso acontece? int main () { float a = 1F; double b = 1; printf("float =%d\ndouble= %f", a, ...
Usando intervalos Haskell: Por que o mapeamento de uma função de ponto flutuante em um intervalo fazia com que ele retornasse um elemento extra?
Eu sei que carros alegóricos podem levar a comportamentos estranhos em intervalos devido à sua natureza imprecisa. Eu esperaria a possibilidade de valores imprecisos. Por exemplo:[0.1,0.3..1] pode dar[0.1,0.3,0.5,0.7,0.8999999999999999] ao invés ...
A maneira mais fácil de converter manualmente uma flutuação decimal em representação de bits com base no IEEE 754, sem usar nenhuma biblioteca
Eu sei que existem inúmeras maneiras de ler todos os bits de um flutuador IEEE 754 usando bibliotecas escritas. Eu não quero isso e quero podermanualmenteconverta uma flutuação decimal em representação binária com base na IEEE 754. Entendo como ...