Resultados da pesquisa a pedido "precision"
Precisão garantida da função sqrt em C / C ++
Todo mundo sabesqrt função demath.h/cmath em C / C ++ - retorna raiz quadrada de seu argumento. Claro, isso tem a ver com algum erro, porque nem todos os números podem ser armazenados com precisão. Mas tenho certeza de que o resultado tem alguma ...
Valores numéricos extremos em precisão de ponto flutuante em R
Alguém pode me explicar a seguinte saída. Eu sei que isso tem algo a ver com precisão de ponto flutuante, mas a ordem da magnitude (diferença 1e308) me surpreende. 0: alta precisão > 1e-324==0 [1] TRUE > 1e-323==0 [1] FALSE1: muito impreciso > ...
Por que difere a precisão do ponto flutuante em C # quando separados por parênteses e quando separados por instruções?
Estou ciente de como a precisão do ponto flutuante funciona nos casos regulares, mas me deparei com uma situação estranha no meu código C #. Por que result1 e result2 não são exatamente o mesmo valor de ponto flutuante aqui? const float A; // ...
A precisão do Math.log2 mudou no Chrome
Eu escrevi um programa JavaScript que calcula a profundidade de uma árvore binária com base no número de elementos. Meu programa está funcionando bem há meses, mas recentemente descobri uma diferença quando a página da web é visualizada no Chrome ...
quantos números inteiros no IEEE 754
Estou tentando descobrir quantos números inteiros diferentes existem no ieee 754. O número que obtive foi 1778384895, mas não consegui encontrar nenhum recurso para me verificar. Muito obrigado antecipadamente.
Como quadruplicar um número não assinado usando operador lógico e bit a bit em C
Objetivo: 4x ( 4.400000095 ) = 17.60000038 Operações legais: qualquer operação inteira / não assinada, incl. ||, &&. também se, enquantoNúmero máximo de operações: 30Retorne o equivalente em nível de bit da expressão x + x + x + x ...
Matlab vs C ++ Double Precision
Estou portando algum código do Matlab para C ++. Na Matlab format long D = 0.689655172413793 (this is 1.0 / 1.45) E = 2600 / D // I get E = 3.770000000000e+03Em C ++ double D = 0.68965517241379315; //(this is 1.0 / 1.45) double E = 2600 / D; ...
Qual é a precisão dos cálculos de ponto flutuante no Scilab?
Nota: usei a tag Matlab para o caso de eles manterem a mesma precisão. (Pelo que sei, os dois programas são muito semelhantes.) Como acompanhamento de uma pergunta anterior minha ...