Resultados da pesquisa a pedido "floating-point-precision"
Como o erro de ponto flutuante se propaga ao executar operações matemáticas em C ++?
Digamos que declaramos as seguintes variáveis float a = 1.2291; float b = 3.99; float variáveis têm precisão 6, o que (se bem entendi) significa que a diferença entre o número que o computador realmente armazena e o número real desejado ...
Por que usar o módulo em valores não inteiros perde a precisão de ponto flutuante? [duplicado]
Esta questão já tem uma resposta aqui:Por que vejo uma variável dupla inicializada com algum valor como 21.4 como 21.399999618530273? 14 respostasEu estou qu...
"GL_HALF_FLOAT" com renderização OpenGL e GLSL
Estou programando um renderizador OpenGL em C ++. Quero que seja o mais eficiente possível e que cada vértice / normal / UV tex coord / tangents / etc ocupe o mínimo de memória possível. Estou usando índices, tiras de linha e ventiladores. Eu ...
Precisão de repr (f), str (f), impressão (f) quando f é flutuante
Se eu correr: >>> import math >>> print(math.pi) 3.141592653589793Em seguida, pi é impresso com 16 dígitos, No entanto, de acordo com: >>> import sys >>> sys.float_info.dig 15Minha precisão é de 15 dígitos. Portanto, devo confiar no último ...
Como fazer números não serem mostrados em forma científica?
Eu quero escrever uma matriz de números de ponto flutuante em arquivos
Veja o próximo menor número duplo
Como parte de um teste de unidade, preciso testar algumas condições de contorno. Um método aceita um
números simples de ponto flutuante perdem precisão
Estou usando o Delphi XE2 Update 3. Há problemas de precisão, mesmo com os números de ponto flutuante mais simples (como3.7) Dado este código (um aplicativo de console de 32 bits): program Project1; {$APPTYPE CONSOLE} {$R *.res} uses ...
Saída estranha ao usar float em vez de double
Saída estranha quando usofloat ao invés dedouble #include <stdio.h> void main() { double p,p1,cost,cost1=30; for (p = 0.1; p < 10;p=p+0.1) { cost = 30-6*p+p*p; if (cost<cost1) { cost1=cost; p1=p; } else { break; } printf("%lf\t%lf\n",p,cost); } ...