Resultados da pesquisa a pedido "ieee-754"
A maneira mais fácil de converter manualmente uma flutuação decimal em representação de bits com base no IEEE 754, sem usar nenhuma biblioteca
Eu sei que existem inúmeras maneiras de ler todos os bits de um flutuador IEEE 754 usando bibliotecas escritas. Eu não quero isso e quero podermanualmenteconverta uma flutuação decimal em representação binária com base na IEEE 754. Entendo como ...
Valores numéricos extremos em precisão de ponto flutuante em R
Alguém pode me explicar a seguinte saída. Eu sei que isso tem algo a ver com precisão de ponto flutuante, mas a ordem da magnitude (diferença 1e308) me surpreende. 0: alta precisão > 1e-324==0 [1] TRUE > 1e-323==0 [1] FALSE1: muito impreciso > ...
Por que Number.MAX_SAFE_INTEGER 9.007.199.254.740.991 e não 9.007.199.254.740.992?
ECMAScript 6'sNumber.MAX_SAFE_INTEGER supostamente representa o valor numérico máximo que o JavaScript pode armazenar antes que surjam problemas com precisão de ponto flutuante. No entanto, é obrigatório que o número 1 adicionado a esse valor ...
Por que o viés do expoente IEEE-754 usado neste código C é 126,94269504 em vez de 127?
A seguinte função C é defastapprox [https://code.google.com/p/fastapprox/] projeto. static inline float fasterlog2 (float x) { union { float f; uint32_t i; } vx = { x }; float y = vx.i; y *= 1.1920928955078125e-7f; return y - 126.94269504f; ...
quantos números inteiros no IEEE 754
Estou tentando descobrir quantos números inteiros diferentes existem no ieee 754. O número que obtive foi 1778384895, mas não consegui encontrar nenhum recurso para me verificar. Muito obrigado antecipadamente.
Quais são os usos das cargas úteis de NaN de ponto flutuante?
Eu sei que o IEEE 754 define NaNs para ter a seguinte representação em bits: O bit de sinal pode ser0 ou1O campo expoente contém todos1 bitsAlguns bits da mantissa são usados para especificar se é um NaN silencioso ou NaN sinalizadorA mantissa ...
Modos de arredondamento e adição padrão multiplicados por fusão
Com o GCC 5.3, o seguinte código compield com-O3 -fma float mul_add(float a, float b, float c) { return a*b + c; }produz o seguinte conjunto vfmadd132ss %xmm1, %xmm2, %xmm0 retNotei o GCC fazendo isso com-O3 já no GCC ...
Matlab vs C ++ Double Precision
Estou portando algum código do Matlab para C ++. Na Matlab format long D = 0.689655172413793 (this is 1.0 / 1.45) E = 2600 / D // I get E = 3.770000000000e+03Em C ++ double D = 0.68965517241379315; //(this is 1.0 / 1.45) double E = 2600 / D; ...