Resultados da pesquisa a pedido "ieee-754"
quais idiomas expõem as armadilhas IEEE 754 ao desenvolvedor?
Gostaria de brincar com essas armadilhas para fins educacionai Um problema comum com o comportamento padrão no cálculo numérico é que "sentimos falta" do Nan (ou + -inf) que apareceu em uma operação errada. O comportamento padrão é a ...
Quais são os outros valores de NaN?
odocumentação parajava.lang.Double.NaN [https://docs.oracle.com/javase/8/docs/api/java/lang/Double.html#NaN]diz que é Uma constante contendo um valor Não-numérico (NaN) do tipodouble. É equivalente ao valor retornado ...
Tipo de dados flutuante e duplo em Java
O tipo de dados flutuante é um ponto flutuante IEEE 754 de precisão única de 32 bits e o tipo de dados duplo é um ponto flutuante IEEE 754 de precisão dupla de 64 bits. O que isso significa? E quando devo usar float em vez de duplo ou vice-versa?
Portabilidade de serialização binária do tipo double / float em C ++
O padrão C ++ não discute o layout subjacente dos tipos float e double, apenas o intervalo de valores que eles devem representar. (Isso também é válido para tipos assinados, é um elogio de dois ou outra coisa) Minha pergunta é: Quais são as ...
Por que Number.MAX_SAFE_INTEGER 9.007.199.254.740.991 e não 9.007.199.254.740.992?
ECMAScript 6'sNumber.MAX_SAFE_INTEGER supostamente representa o valor numérico máximo que o JavaScript pode armazenar antes que surjam problemas com precisão de ponto flutuante. No entanto, é obrigatório que o número 1 adicionado a esse valor ...
ritmética dupla e igualdade em Ja
Aqui está uma singularidade (para mim, pelo menos). Essa rotina é verdadeira: double x = 11.0; double y = 10.0; if (x-y == 1.0) { // print true } else { // print false }Mas essa rotina imprime false: double x = 1.1; double y = 1.0; if (x-y == ...
Arredondamento peculiar em JavaScript ou IEEE-754?
Eu me deparei com um problema curioso em um dos meus testes de unidade em que estou obtendo resultados inesperados de arredondamento em JavaScript:
Por que a literatura de aproximação de pecado baseada em tabela sempre usa essa fórmula quando outra fórmula parece fazer mais sentido?
A literatura sobre computação da função elementarsin com tabelas refere-se à fórmula: sin(x) = sin(Cn) * cos(h) + cos(Cn) * sin(h)Ondex = Cn + h, Cn é uma constante para a qualsin(Cn) ecos(Cn) foram pré-computados e estão disponíveis em ...
its de precisão flutuante
Neste wikiartig [http://en.wikipedia.org/wiki/Single_precision_floating-point_format] mostra 23 bits para precisão, 8 para expoente e 1 para sinal nde está o 24º bit oculto no tipo float que produz (23 + 1) para 7 dígitos significativo
Padrão para o seno de números muito grandes
Estou escrevendo uma implementação de ponto flutuante (quase) compatível com IEEE 854 no TeX (que suporta apenas números inteiros de 32 bits). Este padrão especifica apenas o resultado de+, -, *, /, comparação, restante esqrt: para essas ...