Resultados da pesquisa a pedido "ieee-754"
É possível obter 0 subtraindo dois números desiguais de ponto flutuante?
É possível obter divisão por 0 (ou infinito) no exemplo a seguir? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } }Em casos normais, isso não acontecerá, é claro. Mas e sea eb estão muito ...
Converter ieee754 em decimal no nó
Eu tenho um buffer no nó<Buffer 42 d9 00 00> que deve representar o decimal 108.5. Estou usando este módulo para tentar decodificar o buffer: https://github.com/feross/ieee754 [https://github.com/feross/ieee754]. ieee754.read = function (buffer, ...
Como o javascript imprime 0,1 com tanta precisão?
Eu tenhoouviu [https://stackoverflow.com/questions/1458633/elegant-workaround-for-javascript-floating-point-number-problem] que os números javascript sãoIEEE 754 [http://en.wikipedia.org/wiki/IEEE_floating_point]pontos flutuantes, o que explica ...
Como o fma () é implementado
De acordo comdocumentação [http://sourceware.org/newlib/libm.html#fma], existe umfma() função emmath.h. Isso é muito bom, e eu sei como as FMA funcionam e para que usá-las. No entanto, não tenho tanta certeza de como isso é implementado ...
Por que o viés do expoente IEEE-754 usado neste código C é 126,94269504 em vez de 127?
A seguinte função C é defastapprox [https://code.google.com/p/fastapprox/] projeto. static inline float fasterlog2 (float x) { union { float f; uint32_t i; } vx = { x }; float y = vx.i; y *= 1.1920928955078125e-7f; return y - 126.94269504f; ...
Status de __STDC_IEC_559__ com compiladores C modernos
C99 adicionou uma macro__STDC_IEC_559__ que pode ser usado para testar se um compilador e uma biblioteca padrão estão em conformidade com o padrão ISO / IEC / IEEE 60559 (ou IEEE 754). De acordo com as respostas para esta pergunta como verificar ...
float128 e aritmética duplo-duplo
Eu vi na wikipedia que, de alguma maneira, implementar a precisão quad é usar aritmética duplo-duplo, mesmo que não seja exatamente a mesma precisão em termos de ...
Conversão hexadecimal de 32 bits para ponto flutuante de 32 bits (IEEE 754) no matlab
Como posso alterar o valor hexadecimal de 32 bits para um valor de ponto flutuante de acordo com o IEEE 754? EDITAR: ... data = fread(fid,1,'float32'); disp(data); ...Eu recebo esta resposta: 4,2950e + 009 1,6274e + 009 ... Mas como obtenho ...
quantos números inteiros no IEEE 754
Estou tentando descobrir quantos números inteiros diferentes existem no ieee 754. O número que obtive foi 1778384895, mas não consegui encontrar nenhum recurso para me verificar. Muito obrigado antecipadamente.
Quais são os usos das cargas úteis de NaN de ponto flutuante?
Eu sei que o IEEE 754 define NaNs para ter a seguinte representação em bits: O bit de sinal pode ser0 ou1O campo expoente contém todos1 bitsAlguns bits da mantissa são usados para especificar se é um NaN silencioso ou NaN sinalizadorA mantissa ...