Resultados da pesquisa a pedido "floating-point-precision"
comparação dupla e flutuante [duplicata]
Esta questão já tem uma resposta aqui:Comparando float e double 3 respostasDe acordo comesta postagem, ao comparar um float e um double, o float deve ser tra...
tamanho de duplo longo e precisão não combinando?
Considere o seguinte código C:
Qual é o sufixo C ++ para literais duplos longos?
Em C ++ (e C), um literal de ponto flutuante sem sufixo é padronizado comodouble, enquanto o sufixof implica umfloat. Mas qual é o sufixo para obter umalong double? Sem saber, eu definiria, por exemplo, const long double x = ...
números simples de ponto flutuante perdem precisão
Estou usando o Delphi XE2 Update 3. Há problemas de precisão, mesmo com os números de ponto flutuante mais simples (como3.7) Dado este código (um aplicativo de console de 32 bits): program Project1; {$APPTYPE CONSOLE} {$R *.res} uses ...
Como o erro de ponto flutuante se propaga ao executar operações matemáticas em C ++?
Digamos que declaramos as seguintes variáveis float a = 1.2291; float b = 3.99; float variáveis têm precisão 6, o que (se bem entendi) significa que a diferença entre o número que o computador realmente armazena e o número real desejado ...
"GL_HALF_FLOAT" com renderização OpenGL e GLSL
Estou programando um renderizador OpenGL em C ++. Quero que seja o mais eficiente possível e que cada vértice / normal / UV tex coord / tangents / etc ocupe o mínimo de memória possível. Estou usando índices, tiras de linha e ventiladores. Eu ...
Saída estranha ao usar float em vez de double
Saída estranha quando usofloat ao invés dedouble #include <stdio.h> void main() { double p,p1,cost,cost1=30; for (p = 0.1; p < 10;p=p+0.1) { cost = 30-6*p+p*p; if (cost<cost1) { cost1=cost; p1=p; } else { break; } printf("%lf\t%lf\n",p,cost); } ...