Resultados da pesquisa a pedido "floating-accuracy"
A condição "maior que" do MySQL às vezes retorna a linha com o mesmo valor
Estou enfrentando um problema desconcertante com uma consulta básica do MySQL. Esta é a minha mesa: id | rating 1 | 1317.17 2 | 1280.59 3 | 995.12 4 | 973.88Agora, estou tentando encontrar todas as linhas em que orating coluna é maior que um ...
Representação textual exata de um IEEE "duplo"
Preciso representar um número de ponto flutuante duplo (64 bits) IEEE 754-1985 em um formato de texto legível por humanos, com a condição de que o formulário de texto possa ser analisado novamenteexatamente o mesmo número (bit a bit). Isso é ...
O que é um exemplo simples de erro de ponto flutuante / arredondamento?
Eu ouvi falar de "erro" ao usar variáveis de ponto flutuante. Agora estou tentando resolver este quebra-cabeça e acho que estou recebendo algum erro de arredondamento / ponto flutuante. Então, finalmente, vou descobrir o básico do erro de ponto ...
Regras práticas para minimizar erros de ponto flutuante em C?
Em relação à minimização do erro nas operações de ponto flutuante, se eu tiver uma operação como a seguinte em C: float a = 123.456; float b = 456.789; float r = 0.12345; a = a - (r * b);O resultado do cálculo será alterado se eu dividir as ...
Perda de precisão do ponto flutuante c ++: 3015 / 0.00025298219406977296
O problema. Compilador do Microsoft Visual C ++ 2005, windows de 32 bits xp sp3, amd 64 x2 cpu. Código: double a = 3015.0; double b = 0.00025298219406977296; //*((unsigned __int64*)(&a)) == 0x40a78e0000000000 //*((unsigned __int64*)(&b)) ...
melhoria da precisão da interseção de raios e elipsóides
Preciso aprimorar a precisão para a função em um dos meusShader de fragmento de dispersão atmosférica GLSL [https://stackoverflow.com/a/19659648/2521214]que calcula a interseção entre o raio único e o elipsóide alinhado ao eixo. Essa é a ...
Como o erro de ponto flutuante se propaga ao executar operações matemáticas em C ++?
Digamos que declaramos as seguintes variáveis float a = 1.2291; float b = 3.99; float variáveis têm precisão 6, o que (se bem entendi) significa que a diferença entre o número que o computador realmente armazena e o número real desejado ...
Como você encontra o valor não igual mais próximo de um float? [duplicado]
Esta pergunta já tem uma resposta aqui: Como alterar um flutuador pelo menor incremento (ou próximo a ele)? [/questions/155378/how-to-alter-a-float-by-its-smallest-increment-or-close-to-it] 7 respostasA float (também conhecido como único) é um ...
Por que esses dois float64s têm valores diferentes?
Considere estes dois casos: fmt.Println(912 * 0.01) fmt.Println(float64(912) * 0.01)(Ir para o Playground link [http://play.golang.org/p/k3OLoemaA8]) O segundo imprime 9.120000000000001, o que é realmente bom,Eu entendo por que isso está ...
Por que o valor desse flutuador muda do que foi definido?
Por que este programa C está dando a saída "errada"? #include<stdio.h> void main() { float f = 12345.054321; printf("%f", f); getch(); }Resultado: 12345.054688Mas a saída deve ser,12345.054321. Estou usando o VC ++ no VS2008.