Resultados da pesquisa a pedido "floating-point"
Qual é o significado de "0" como prefixo em um literal de ponto flutuante?
Usar "0" (zero) como prefixo em um literal inteiro altera sua base para octal. Isso é por que System.out.println(010);irá imprimir8. Mas usando "F" como sufixo System.out.println(010F);o fará flutuar perdendo a base octal (retornando ...
A precisão do ponto flutuante é mutável ou invariável?
Continuo recebendo respostas contraditórias sobre se os números de ponto flutuante (ou seja,float, doubleoulong double) têm um e apenas um valor de precisão ou um valor de precisão que pode variar. Um tópico chamadoflutuador vs. precisão ...
A precisão dos dígitos decimais mais significativos é que pode ser convertida em binária e de volta em decimal sem perda de significância 6 ou 7.225?
Encontrei duas fórmulas de precisão diferentes para números de ponto flutuante. ⌊ (N-1) log10(2) ⌋ = 6 dígitos decimais(Precisão única) e N log10(2) ≈ 7.225 dígitos decimais(Precisão única) OndeN = 24Bits significativos (Precisão única) A ...
Convertendo um valor decimal em um hexadecimal de ponto flutuante de 32 bits
Para um utilitário simples em que estou trabalhando, preciso de um script que converta um determinado valor decimal em um valor hexadecimal de ponto flutuante de 32 bits. Por exemplo, eu sei que 1 é 3F800000 e 100 é 42C80000, mas não sei como ...
É sempre seguro negar um número de ponto flutuante
Considerar: double f = foo(); double g = -f;Ondefoo() pode retornar qualquer coisa que seja atribuída af. édouble g = -f; seguro em C e C ++? Para os tipos IEEE 754, obviamente é, mas C e C ++ não restringem a implementação de ponto flutuante a ...
Como alterar um número float64 para uint64 da maneira correta?
package main func main() { var n float64 = 6161047830682206209 println(uint64(n)) }A saída será: 6161047830682206208Parece que quandofloat64 mudar parauint64, a fração é descartada.
Regra geral para testar a igualdade de duas duplas em C #?
Digamos que eu tenha algum código que faça alguma aritmética de ponto flutuante e armazene os valores em duplicado. Como alguns valores não podem ser representados perfeitamente em binário, como faço para testar a igualdade com um grau razoável ...
Por que o viés do expoente IEEE-754 usado neste código C é 126,94269504 em vez de 127?
A seguinte função C é defastapprox [https://code.google.com/p/fastapprox/] projeto. static inline float fasterlog2 (float x) { union { float f; uint32_t i; } vx = { x }; float y = vx.i; y *= 1.1920928955078125e-7f; return y - 126.94269504f; ...
Status de __STDC_IEC_559__ com compiladores C modernos
C99 adicionou uma macro__STDC_IEC_559__ que pode ser usado para testar se um compilador e uma biblioteca padrão estão em conformidade com o padrão ISO / IEC / IEEE 60559 (ou IEEE 754). De acordo com as respostas para esta pergunta como verificar ...
Java: Como converter valores String de binário em Float e vice-versa?
Como converter o valor flutuante de 12345.12346f em uma sequência de valores binários, ou seja, "001101010101010101" e vice-versa?