Resultados da pesquisa a pedido "floating-point-precision"
comparação dupla e flutuante [duplicata]
Esta questão já tem uma resposta aqui:Comparando float e double 3 respostasDe acordo comesta postagem, ao comparar um float e um double, o float deve ser tra...
tamanho de duplo longo e precisão não combinando?
Considere o seguinte código C:
Qual é o sufixo C ++ para literais duplos longos?
Em C ++ (e C), um literal de ponto flutuante sem sufixo é padronizado comodouble, enquanto o sufixof implica umfloat. Mas qual é o sufixo para obter umalong double? Sem saber, eu definiria, por exemplo, const long double x = ...
números simples de ponto flutuante perdem precisão
Estou usando o Delphi XE2 Update 3. Há problemas de precisão, mesmo com os números de ponto flutuante mais simples (como3.7) Dado este código (um aplicativo de console de 32 bits): program Project1; {$APPTYPE CONSOLE} {$R *.res} uses ...
Como o erro de ponto flutuante se propaga ao executar operações matemáticas em C ++?
Digamos que declaramos as seguintes variáveis float a = 1.2291; float b = 3.99; float variáveis têm precisão 6, o que (se bem entendi) significa que a diferença entre o número que o computador realmente armazena e o número real desejado ...
"GL_HALF_FLOAT" com renderização OpenGL e GLSL
Estou programando um renderizador OpenGL em C ++. Quero que seja o mais eficiente possível e que cada vértice / normal / UV tex coord / tangents / etc ocupe o mínimo de memória possível. Estou usando índices, tiras de linha e ventiladores. Eu ...
Precisão de repr (f), str (f), impressão (f) quando f é flutuante
Se eu correr: >>> import math >>> print(math.pi) 3.141592653589793Em seguida, pi é impresso com 16 dígitos, No entanto, de acordo com: >>> import sys >>> sys.float_info.dig 15Minha precisão é de 15 dígitos. Portanto, devo confiar no último ...