Resultados da pesquisa a pedido "floating-point-precision"
Python: Encontre o índice do item mínimo na lista de carros alegóricos [duplicados]
Esta questão já tem uma resposta aqui:Obtendo o índice do item max ou min retornado usando max () / min () em uma lista 21 respostasComo posso encontrar o ín...
"GL_HALF_FLOAT" com renderização OpenGL e GLSL
Estou programando um renderizador OpenGL em C ++. Quero que seja o mais eficiente possível e que cada vértice / normal / UV tex coord / tangents / etc ocupe o mínimo de memória possível. Estou usando índices, tiras de linha e ventiladores. Eu ...
A conversão de Int para Float perde precisão para grandes números no Swift
XCode 6.3.1 Swift 1.2 let value: Int = 220904525 let intmax = Int.max let float = Float(value) // Here is an error probably let intFromFloat = Int(float) let double = Double(value) println("intmax=\(intmax) value=\(value) ...
Como fazer números não serem mostrados em forma científica?
Eu quero escrever uma matriz de números de ponto flutuante em arquivos
Saída estranha ao usar float em vez de double
Saída estranha quando usofloat ao invés dedouble #include <stdio.h> void main() { double p,p1,cost,cost1=30; for (p = 0.1; p < 10;p=p+0.1) { cost = 30-6*p+p*p; if (cost<cost1) { cost1=cost; p1=p; } else { break; } printf("%lf\t%lf\n",p,cost); } ...
números simples de ponto flutuante perdem precisão
Estou usando o Delphi XE2 Update 3. Há problemas de precisão, mesmo com os números de ponto flutuante mais simples (como3.7) Dado este código (um aplicativo de console de 32 bits): program Project1; {$APPTYPE CONSOLE} {$R *.res} uses ...
Java - perda máxima de precisão em uma adição / subtração dupla
É possível estabelecer, ainda que grosso modo, qual seria a perda máxima de precisão ao lidar com dois
Erro ao usar (int) e (double) juntos para cortar decimais
Quando estou usando (int) com (double) algumas vezes não está funcionando corretamente.Veja o exemplo do código PHP:Preciso deixar 2 decimais e REMOVER outro...
próximo maior / menor número de precisão dupla IEEE
Eu estou fazendo cálculos científicos de alta precisão. Ao procurar a melhor representação de vários efeitos, continuo apresentando razões para querer obter ...