Resultados da pesquisa a pedido "ieee-754"
como converter o número de ponto flutuante em IEEE 754 usando assembly
você pode me ajudar a converter o número de ponto flutuante para IEEE 754 usando assembly Eu tenho esse número -1,75 e eu sei que isso equivale a -1,11000000000000000000000 E + 0 no IEEE754, mas eu não sei como fazer a conversão em assembly
Por que a literatura de aproximação de pecado baseada em tabela sempre usa essa fórmula quando outra fórmula parece fazer mais sentido?
A literatura sobre computação da função elementarsin com tabelas refere-se à fórmula: sin(x) = sin(Cn) * cos(h) + cos(Cn) * sin(h)Ondex = Cn + h, Cn é uma constante para a qualsin(Cn) ecos(Cn) foram pré-computados e estão disponíveis em ...
Algoritmo mais rápido para identificar o menor e o maior x que tornam a equação de dupla precisão x + a == b verdadeira
No contexto da análise estática, estou interessado em determinar os valores dex na ramificação então do condicional abaixo: double x; x = …; if (x + a == b) { …a eb pode-se considerar constantes de dupla precisão (generalizar para expressões ...
Como aplicar operações bit a bit à representação IEEE 754 real dos números JS?
Em JavaScript, sempre que você executa uma operação bit a bit, comox << 2, a representação flutuante de 64 bits é convertida em um int não assinado de 32 bits antes que a mudança realmente ocorra. Estou interessado em aplicar a mudança à ...
Representação textual exata de um IEEE "duplo"
Preciso representar um número de ponto flutuante duplo (64 bits) IEEE 754-1985 em um formato de texto legível por humanos, com a condição de que o formulário de texto possa ser analisado novamenteexatamente o mesmo número (bit a bit). Isso é ...
Valores numéricos extremos em precisão de ponto flutuante em R
Alguém pode me explicar a seguinte saída. Eu sei que isso tem algo a ver com precisão de ponto flutuante, mas a ordem da magnitude (diferença 1e308) me surpreende. 0: alta precisão > 1e-324==0 [1] TRUE > 1e-323==0 [1] FALSE1: muito impreciso > ...
Os padrões de bits dos NaNs são realmente dependentes de hardware?
Eu estava lendo sobre valores de NaN de ponto flutuante na especificação da linguagem Java (eu sou chato). Um de 32 bitsfloat tem este formato de bit: seee eeee emmm mmmm mmmm mmmm mmmm mmmms é o bit do sinal,e são os bits do expoente em são os ...
Por que Number.MAX_SAFE_INTEGER 9.007.199.254.740.991 e não 9.007.199.254.740.992?
ECMAScript 6'sNumber.MAX_SAFE_INTEGER supostamente representa o valor numérico máximo que o JavaScript pode armazenar antes que surjam problemas com precisão de ponto flutuante. No entanto, é obrigatório que o número 1 adicionado a esse valor ...
Por que precisamos do restante do IEEE 754?
eu acabei de lerEste tópico [https://stackoverflow.com/questions/158120/math-ieeeremainder-returns-negative-results-why] (especialmente os últimos comentários). Então eu fiquei pensando, por que realmente precisamos disso é dar o restante. Mas ...
Tipo de dados flutuante e duplo em Java
O tipo de dados flutuante é um ponto flutuante IEEE 754 de precisão única de 32 bits e o tipo de dados duplo é um ponto flutuante IEEE 754 de precisão dupla de 64 bits. O que isso significa? E quando devo usar float em vez de duplo ou vice-versa?