Resultados da pesquisa a pedido "floating-point-precision"
A precisão dos dígitos decimais mais significativos é que pode ser convertida em binária e de volta em decimal sem perda de significância 6 ou 7.225?
Encontrei duas fórmulas de precisão diferentes para números de ponto flutuante. ⌊ (N-1) log10(2) ⌋ = 6 dígitos decimais(Precisão única) e N log10(2) ≈ 7.225 dígitos decimais(Precisão única) OndeN = 24Bits significativos (Precisão única) A ...
A precisão do ponto flutuante é mutável ou invariável?
Continuo recebendo respostas contraditórias sobre se os números de ponto flutuante (ou seja,float, doubleoulong double) têm um e apenas um valor de precisão ou um valor de precisão que pode variar. Um tópico chamadoflutuador vs. precisão ...
A conversão de Int para Float perde precisão para grandes números no Swift
XCode 6.3.1 Swift 1.2 let value: Int = 220904525 let intmax = Int.max let float = Float(value) // Here is an error probably let intFromFloat = Int(float) let double = Double(value) println("intmax=\(intmax) value=\(value) ...
Saída estranha ao usar float em vez de double
Saída estranha quando usofloat ao invés dedouble #include <stdio.h> void main() { double p,p1,cost,cost1=30; for (p = 0.1; p < 10;p=p+0.1) { cost = 30-6*p+p*p; if (cost<cost1) { cost1=cost; p1=p; } else { break; } printf("%lf\t%lf\n",p,cost); } ...
Precisão de repr (f), str (f), impressão (f) quando f é flutuante
Se eu correr: >>> import math >>> print(math.pi) 3.141592653589793Em seguida, pi é impresso com 16 dígitos, No entanto, de acordo com: >>> import sys >>> sys.float_info.dig 15Minha precisão é de 15 dígitos. Portanto, devo confiar no último ...
"GL_HALF_FLOAT" com renderização OpenGL e GLSL
Estou programando um renderizador OpenGL em C ++. Quero que seja o mais eficiente possível e que cada vértice / normal / UV tex coord / tangents / etc ocupe o mínimo de memória possível. Estou usando índices, tiras de linha e ventiladores. Eu ...
Como o erro de ponto flutuante se propaga ao executar operações matemáticas em C ++?
Digamos que declaramos as seguintes variáveis float a = 1.2291; float b = 3.99; float variáveis têm precisão 6, o que (se bem entendi) significa que a diferença entre o número que o computador realmente armazena e o número real desejado ...
números simples de ponto flutuante perdem precisão
Estou usando o Delphi XE2 Update 3. Há problemas de precisão, mesmo com os números de ponto flutuante mais simples (como3.7) Dado este código (um aplicativo de console de 32 bits): program Project1; {$APPTYPE CONSOLE} {$R *.res} uses ...
Qual é o sufixo C ++ para literais duplos longos?
Em C ++ (e C), um literal de ponto flutuante sem sufixo é padronizado comodouble, enquanto o sufixof implica umfloat. Mas qual é o sufixo para obter umalong double? Sem saber, eu definiria, por exemplo, const long double x = ...