Resultados da pesquisa a pedido "floating-point-precision"
A precisão dos dígitos decimais mais significativos é que pode ser convertida em binária e de volta em decimal sem perda de significância 6 ou 7.225?
Encontrei duas fórmulas de precisão diferentes para números de ponto flutuante. ⌊ (N-1) log10(2) ⌋ = 6 dígitos decimais(Precisão única) e N log10(2) ≈ 7.225 dígitos decimais(Precisão única) OndeN = 24Bits significativos (Precisão única) A ...
Qual é o sufixo C ++ para literais duplos longos?
Em C ++ (e C), um literal de ponto flutuante sem sufixo é padronizado comodouble, enquanto o sufixof implica umfloat. Mas qual é o sufixo para obter umalong double? Sem saber, eu definiria, por exemplo, const long double x = ...
Saída estranha ao usar float em vez de double
Saída estranha quando usofloat ao invés dedouble #include <stdio.h> void main() { double p,p1,cost,cost1=30; for (p = 0.1; p < 10;p=p+0.1) { cost = 30-6*p+p*p; if (cost<cost1) { cost1=cost; p1=p; } else { break; } printf("%lf\t%lf\n",p,cost); } ...
Python: Encontre o índice do item mínimo na lista de carros alegóricos [duplicados]
Esta questão já tem uma resposta aqui:Obtendo o índice do item max ou min retornado usando max () / min () em uma lista 21 respostasComo posso encontrar o ín...
Precisão de repr (f), str (f), impressão (f) quando f é flutuante
Se eu correr: >>> import math >>> print(math.pi) 3.141592653589793Em seguida, pi é impresso com 16 dígitos, No entanto, de acordo com: >>> import sys >>> sys.float_info.dig 15Minha precisão é de 15 dígitos. Portanto, devo confiar no último ...
Representação binária exata de um duplo [duplicado]
Possible Duplicate: Flutuar para binário em C ++ [https://stackoverflow.com/questions/2746380/float-to-binary-in-c] Eu tenho uma var dupla muito pequena e, quando a imprimo, recebo -0. (usando C ++). Agora, para obter melhor precisão, tentei ...
Trata-se de uma comparação flutuante válida que representa um número definido de casas decimai
Estou escrevendo um método de extensão para comparar dois carros alegóricos usando um número definido de pontos decimais (números significativos) para determinar se são iguais em vez de uma diferença de tolerância ou porcentagem. Examinando as ...