Resultados da pesquisa a pedido "floating-point"
Como calcular dígitos decimais de precisão com base no número de bits?
Estou aprendendo sobre formatos de ponto flutuante (IEEE). No formato de ponto flutuante de precisão única, menciona-se que a mantissa tem 24 bits e, portant...
Python flutuar a estranheza da igualdade
Vendo algum comportamento inesperado com o Python hoje à noite. Por que a impressão a seguir é 'não igual' ?!
Converter IEEE float hex para decimal?
Se eu tenho um hexágono flutuante IEEE 42F6E979, como o converto em decimal? Eu acredito que a representação decimal é = 123.456001
JSON.parse analisa / converte números grandes incorretamente
Meu problema é realmente simples, mas não tenho certeza se existe uma solução "nativa" usando o JSON.parse.Eu recebo issocorda de uma API:
extração de mantissa e expoente de double em c #
Existe alguma maneira simples de obter a mantissa e o expoente de um duplo em c # (ou .NET em geral)? eu encontreieste exemplo [http://www.yoda.arachsys.com/csharp/DoubleConverter.cs]usando o google, mas não tenho certeza de quão robusto seria. ...
Devo usar o dobro ou flutuar?
Quais são as vantagens e desvantagens de usar um em vez do outro em C ++?
Funções de comparação de ponto flutuante para C #
Alguém pode apontar para (ou mostrar) algumas boas funções gerais de comparação de ponto flutuante em C # para comparar valores de ponto flutuante? Eu quero implementar funções paraIsEqual, IsGreater aIsLess. Eu também realmente só me importo com ...
Por que Double.MIN_VALUE não é negativo
Alguém pode lançar alguma luz sobre o porquêDouble.MIN_VALUE não é realmente o valor mínimo que o Doubles pode receber? É um valor positivo, e um Double pode, é claro, ser negativo. Entendo por que é um número útil, mas parece um nome pouco ...